LoopLM跨循环深度安全研究提出SafeBridge

1. 12:00
   arXiv · Machine Learning

   Looped Language Models如何跨循环深度对齐安全性

   论文评估Looped Language Models在针对不同循环深度的越狱攻击下的安全性，发现更深推理深度可能提高攻击成功率，且同一查询在不同深度会产生不同安全行为。作者提出SafeBridge，结合深度特定控制、选择性状态桥接和跨深度联合安全监督，在多种模型规模、攻击方法和安全基准上降低匹配深度及跨深度攻击的成功率，同时提升通用效用并保持相近的过度拒答表现。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。