llama.cpp 修复 KV cache 行数为零导致的计算图执行问题
热点事件持续更新
llama.cpp 修复 KV cache 行数为零导致的计算图执行问题
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
ggml-org/llama.cpp 在 b12065 中修复了共享 KV cache 中尚无缓存单元的序列返回 0 个 KV 行的问题，避免计算图因此退回 dense KQ mask，并触发调度器重新规划，导致后续计算图执行中止。 此次修复针对没有缓存单元的序列调整 KV 行数返回逻辑。b12065 同时提供 macOS、Linux、Android、Windows 和 openEuler 的多种 CPU、GPU 及 NPU 构建版本；其中 Ubuntu x64 CUDA 12 构建包含 CUDA 12.8 库，Ubuntu x64 和 Windows x64 CUDA 13 构建包含 CUDA 13.4 库。
AI 根据报道生成 · 1 小时前更新
最新进展11月3日 16:09
llama.cpp b12065 修复无 KV cache 单元序列的 KV 行数返回问题报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- GitHub · ggml-org/llama.cpp Releasesllama.cpp b12065 修复无 KV cache 单元序列的 KV 行数返回问题
llama.cpp b12065 修复共享 KV cache 的序列尚无单元时 get_n_kv_rows() 返回 0 的问题，避免计算图退回 dense KQ mask 并触发调度器重新规划。该版本提供适用于 macOS、Linux、Android、Windows 和 openEuler 的多种 CPU、GPU 及 NPU 构建版本。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。