arXiv · Machine Learning· Pushkal Kumar, Arvin Sahaym·· 10 小时前AI 评分62
论文指出 RAG 投毒防御中排序不等于决策，基准捷径导致操作点崩塌
Ranking Is Not Deciding: Benchmark Shortcuts and Operating-Point Collapse in Query-Time RAG Poisoning Defenses
AI 导读
Pushkal Kumar 和 Arvin Sahaym 研究了查询时 RAG 投毒防御，指出基准构造线索可让高检测排名在实际部署决策中失效。删除 PoisonedRAG 插入段落中的目标问题前缀后，RAGuard 的 AUROC 从 0.953 降至 0.758，miss rate 从 0.191 升至 0.763。
来源：arXiv · Machine Learning · arxiv.org