arXiv · Machine Learning· Qiaomu Li, Ying Xie·· 10 小时前AI 评分45
System-1 风格决策模型能否取代 RAG 专用重排器?一项系统评估
Can System-1-Style Decision Models Replace Dedicated Rerankers in RAG? A Systems Evaluation
AI 导读
系统评估发现,System-1 风格决策模型可实现有竞争力的 RAG 重排,但能否替代专用重排器取决于质量、延迟和显存的权衡。研究在 11 个基准上筛选 21 个开放权重模型;限制候选文本长度可恢复可靠性,但调优后的重排器仍更快且使用的 GPU 内存远少。
来源:arXiv · Machine Learning · arxiv.org