arXiv · Machine Learning· Yi Wang, Xiuyuan Qi, Dongqi Han, Dongsheng Li, Wenjie Wang·· 11 小时前AI 评分56
Looped Language Models如何跨循环深度对齐安全性
Safe at One Loop, Risky at Another: Aligning Safety Across Recurrent Depths in Looped Language Models
AI 导读
论文评估Looped Language Models在针对不同循环深度的越狱攻击下的安全性，发现更深推理深度可能提高攻击成功率，且同一查询在不同深度会产生不同安全行为。作者提出SafeBridge，结合深度特定控制、选择性状态桥接和跨深度联合安全监督，在多种模型规模、攻击方法和安全基准上降低匹配深度及跨深度攻击的成功率，同时提升通用效用并保持相近的过度拒答表现。
来源：arXiv · Machine Learning · arxiv.org