arXiv · Machine Learning· Gyuwan Kim, Cheoneum Park, Tao Yang·· 13 小时前AI 评分42
CoinRAG：面向长上下文 RAG 的上下文化信息片段 KV Cache 复用
CoinRAG: Contextualized Information Nugget KV Cache Reuse for Long-Context RAG
AI 导读
CoinRAG 面向长上下文 RAG，复用离线计算的细粒度信息片段 KV Cache，结合检索到的 chunk 上下文构建紧凑表示，以降低 prefill 延迟并提升准确率。该方法可与 CacheBlend 的选择性重计算集成；在 LongBench 多跳问答任务中，标准快速 prefill 延迟预算下答案质量 F1 平均相对提升 5.3%，并形成新的 Pareto frontier。
来源：arXiv · Machine Learning · arxiv.org