arXiv · Machine Learning· Igor Shilov, Xiaoxue Yang, Alexander Panfilov, Evgenii Kortukov, Matthieu Meeus, Peter Romov, Wojciech Samek, Jonas Geiping, Yves-Alexandre de Montjoye·· 8 小时前AI 评分69
Heads of Security：通过学习式注意力门提升大模型对提示注入的鲁棒性
Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
AI 导读
研究团队提出 Heads of Security（HoS），通过少量可学习的逐注意力头门控机制，在可信与不可信 token 之间重新分配注意力，使模型能够理解不可信内容而不执行其中注入的指令。
来源：arXiv · Machine Learning · arxiv.org