arXiv · Machine Learning· Naveen Madiraju·· 13 小时前AI 评分58
模型验证的是充分性而非有效性:可用的错误事实会绕过缺口检查
Models Verify Sufficiency, Not Validity: Usable Falsehoods Evade the Checks that Gaps Trigger
AI 导读
该研究发现,在保持来源支持不变时,只让问题中的无支持前提变得可用,模型的事实检查会显著下降。在GSM8K的四个模型上,标记率下降8-30个百分点,作答承诺上升1.5-2.3倍,16组配对对比经Holm校正后仍显著。评审者对缺少必要步骤的答案有78%-99%的通过率,而提示级缓解方案使准确率下降22个百分点,却没有改善检测。
来源:arXiv · Machine Learning · arxiv.org