llama.cpp b12077 增强 GLM-5.3 next 支持并修复多设备注意力切分
热点事件持续更新
llama.cpp b12077 增强 GLM-5.3 next 支持并修复多设备注意力切分
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b12077 版本，新增对 GLM-5.3 next 张量处理的支持，并修复多设备运行时 MLA 注意力切分可能导致 HIP Flash Attention 内核中止的问题。 此次更新调整了 MLA 注意力头的分组切分和张量 view 处理，使采用非统一 KV cache 的多设备张量模式不再需要额外的 cont 操作。此前，HIP tile Flash Attention 内核在 D=512 时要求 GQA 比例均匀，测试模型使用 3 台设备拆分 16 个注意力头时出现 5/5/6 的分配，导致内核中止；本次更新针对这一问题调整了处理方式。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 01:50
llama.cpp b12077 版本更新：新增 GLM-5.3 next 张量支持并修复 MLA 注意力切分问题报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- GitHub · ggml-org/llama.cpp Releasesllama.cpp b12077 版本更新：新增 GLM-5.3 next 张量支持并修复 MLA 注意力切分问题
llama.cpp b12077 增强 GLM-5.3 next 对非统一 KV cache 的支持，调整 MLA 注意力头的分组切分及张量 view 处理，修复多设备场景下 HIP Flash Attention 内核因 GQA 比例不均而中止的问题。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。