热点事件持续更新

Fast KVzip提出门控式KV缓存淘汰方法

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Jang-Hyun Kim、Dongyoon Han 和 Sangdoo Yun 提出面向冻结权重大语言模型推理的 Fast KVzip，用门控机制淘汰 KV 缓存。实验显示，该方法在 Qwen2.5-1M、Qwen3 和 Gemma3 系列上最多可淘汰 70% 的 KV 缓存，同时保持近乎无损的性能。作者称，门控训练只需 LLM 前向传播，并以任务无关的重建目标实现任务泛化；该方法的计算开销可忽略。

AI 根据报道生成 · 45 分钟前更新

最新进展10月28日 12:00

Fast KVzip：通过门控 KV 淘汰实现高效、准确的 LLM 推理

报道时间线

沿着报道，了解事件的不同侧面。

10月28日

12:00
arXiv · Machine Learning
Fast KVzip：通过门控 KV 淘汰实现高效、准确的 LLM 推理
Fast KVzip 为冻结权重的 LLM 提出门控式 KV 缓存淘汰方法，在计算开销可忽略的情况下保留关键 KV 对。实验显示，该方法在 Qwen2.5-1M、Qwen3 和 Gemma3 系列上最多淘汰 70% 的 KV 缓存，同时保持近乎无损的性能。门控训练仅依赖 LLM 前向传播，并通过任务无关的重建目标实现任务泛化。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。