跳到正文
arXiv · Machine Learning· Naveen Madiraju·· 13 小时前AI 评分58

模型验证的是充分性而非有效性:可用的错误事实会绕过缺口检查

Models Verify Sufficiency, Not Validity: Usable Falsehoods Evade the Checks that Gaps Trigger

AI 导读

该研究发现,在保持来源支持不变时,只让问题中的无支持前提变得可用,模型的事实检查会显著下降。在GSM8K的四个模型上,标记率下降8-30个百分点,作答承诺上升1.5-2.3倍,16组配对对比经Holm校正后仍显著。评审者对缺少必要步骤的答案有78%-99%的通过率,而提示级缓解方案使准确率下降22个百分点,却没有改善检测。

来源:arXiv · Machine Learning · arxiv.org