CoinRAG提出细粒度KV缓存复用
热点事件持续更新
CoinRAG提出细粒度KV缓存复用
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Gyuwan Kim、Cheoneum Park和Tao Yang提出CoinRAG,通过复用离线计算的细粒度信息片段KV Cache,为长上下文RAG构建更紧凑的上下文化表示;在LongBench多跳问答评测中,标准快速prefill延迟预算下答案质量F1平均相对提升5.3%,并形成新的性能—延迟Pareto前沿。 CoinRAG先从检索到的chunk中识别与查询相关的语义单元,再将切片后的KV表示与chunk级上下文组合,从而缩短实际处理的上下文。该方法还可与CacheBlend的选择性重计算结合,在相同延迟预算下进一步提升准确率。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
CoinRAG:面向长上下文 RAG 的上下文化信息片段 KV Cache 复用报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv · Machine LearningCoinRAG:面向长上下文 RAG 的上下文化信息片段 KV Cache 复用
CoinRAG 面向长上下文 RAG,复用离线计算的细粒度信息片段 KV Cache,结合检索到的 chunk 上下文构建紧凑表示,以降低 prefill 延迟并提升准确率。该方法可与 CacheBlend 的选择性重计算集成;在 LongBench 多跳问答任务中,标准快速 prefill 延迟预算下答案质量 F1 平均相对提升 5.3%,并形成新的 Pareto frontier。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。