RAG投毒防御评测揭示基准线索风险
热点事件持续更新
RAG投毒防御评测揭示基准线索风险
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Pushkal Kumar 和 Arvin Sahaym 指出，RAG 投毒防御基准中的构造线索会使高检测排名在部署决策中失效：删除 PoisonedRAG 插入段落里的目标问题前缀后，RAGuard 的 AUROC 从 0.953 降至 0.758，漏检率从 0.191 升至 0.763。 两人称，评估检测结果应同时报告投毒集的构造特征，以及实际部署阈值下的误报率；他们发布了用于计算构造特征的脚本。研究在四个语料库、四类攻击和十种逐文档防御的共享候选集上进行，并指出能针对防御调整策略的攻击者可以击败他们自己的评分器，因此不声称存在通用防御。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
论文指出 RAG 投毒防御中排序不等于决策，基准捷径导致操作点崩塌报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine Learning论文指出 RAG 投毒防御中排序不等于决策，基准捷径导致操作点崩塌
Pushkal Kumar 和 Arvin Sahaym 研究了查询时 RAG 投毒防御，指出基准构造线索可让高检测排名在实际部署决策中失效。删除 PoisonedRAG 插入段落中的目标问题前缀后，RAGuard 的 AUROC 从 0.953 降至 0.758，miss rate 从 0.191 升至 0.763。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。