跳到正文
热点事件持续更新

CoinRAG提出细粒度KV缓存复用

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Gyuwan Kim、Cheoneum Park和Tao Yang提出CoinRAG,通过复用离线计算的细粒度信息片段KV Cache,为长上下文RAG构建更紧凑的上下文化表示;在LongBench多跳问答评测中,标准快速prefill延迟预算下答案质量F1平均相对提升5.3%,并形成新的性能—延迟Pareto前沿。 CoinRAG先从检索到的chunk中识别与查询相关的语义单元,再将切片后的KV表示与chunk级上下文组合,从而缩短实际处理的上下文。该方法还可与CacheBlend的选择性重计算结合,在相同延迟预算下进一步提升准确率。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · Machine Learning
    CoinRAG:面向长上下文 RAG 的上下文化信息片段 KV Cache 复用

    CoinRAG 面向长上下文 RAG,复用离线计算的细粒度信息片段 KV Cache,结合检索到的 chunk 上下文构建紧凑表示,以降低 prefill 延迟并提升准确率。该方法可与 CacheBlend 的选择性重计算集成;在 LongBench 多跳问答任务中,标准快速 prefill 延迟预算下答案质量 F1 平均相对提升 5.3%,并形成新的 Pareto frontier。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。