研究提出 Expected Harm 指标重新评估大模型安全性
热点事件持续更新
研究提出 Expected Harm 指标重新评估大模型安全性
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Yen-Shan Chen、Zhi Rui Tam、Cheng-Kuang Wu 和 Yun-Nung Chen 提出 Expected Harm 指标，将越狱攻击可能造成的危害严重程度与现实执行概率结合，后者依据攻击所需的执行成本建模，以衡量大语言模型面临的预期危害。研究发现，当前模型存在反向风险校准现象：面对执行成本高、现实发生概率低的威胁时更倾向于拒绝，却容易受到执行成本低、发生概率高的威胁攻击。该研究入选 NeurIPS 2026 Evaluations & Dataset Track，并获 Spotlight Paper。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
Expected Harm 重新审视对齐与未对齐 LLM 的安全评估报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · Machine LearningExpected Harm 重新审视对齐与未对齐 LLM 的安全评估
论文提出 Expected Harm 指标，将越狱攻击的危害严重程度与现实执行概率结合，后者根据攻击执行成本建模，以评估 LLM 的预期危害。研究发现，当前模型存在系统性的反向风险校准现象，对执行成本高、现实发生概率低的威胁表现出更强的拒绝行为，却容易受到执行成本低的高概率威胁攻击。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。