研究揭示语言模型普通输出也会泄露上下文秘密

Jaiden Fairoze 等研究人员发现，语言模型即使正确拒绝直接提取请求，也可能通过普通文本输出泄露上下文中的敏感信息。在针对 8 个专有模型的受控实验中，研究人员从模型对非对抗性请求的回答中重建秘密，2 位数字秘密的准确率接近 100%，4 位数字秘密的精确匹配率达到 82%。 研究还考察了攻击者主动设计提示词放大泄漏的方法：利用模型作为隐蔽载体，通过看似无害的文本传递上下文中的秘密。这表明，拒绝直接泄露请求并不能完全防止敏感信息从模型的其他正常输出中暴露。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。