arXiv · Machine Learning· Jaiden Fairoze, Neal Mangaokar, Kamalika Chaudhuri, Sanjam Garg, Saeed Mahloujifar·2026-11-02 13:00· 7 小时前精选AI 评分82

语言模型中的意外上下文泄露：从普通输出重建用户敏感信息

Inadvertent Context Leakage in Language Models

AI 导读

这项发表于 NeurIPS 2026 的研究发现，语言模型即使正确拒绝直接提取请求，也可能通过普通、非对抗性文本输出泄露上下文中的敏感信息。在对 8 个专有模型的受控实验中，2 位数字秘密的重建准确率接近 100%，4 位数字秘密的精确匹配率达到 82%。

推荐理由

研究揭示了模型即使拒绝直接提取，也可能通过普通文本输出间接泄露上下文秘密，并量化了不同长度秘密的重建准确率。