arXiv · Machine Learning· Shikhar Shiromani, Leo Richter, Noah Siegel·· 9 小时前AI 评分65
汇总 CoT 监控准确率为何掩盖依赖推理的脆弱性
A False Average: Pooled CoT-Monitor Accuracy Conceals a Reasoning-Dependent Fragility
AI 导读
这项研究发现，CoT 监控器在 Terminal Wrench 上的汇总准确率掩盖了其对依赖推理样本的脆弱性：约 77% 的 hack 可仅凭动作识别，剩余 23% 会被 action-only monitor 漏过。
来源：arXiv · Machine Learning · arxiv.org