跳到正文
GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分39

llama.cpp b12077 版本更新:新增 GLM-5.3 next 张量支持并修复 MLA 注意力切分问题

b12077

AI 导读

llama.cpp b12077 增强 GLM-5.3 next 对非统一 KV cache 的支持,调整 MLA 注意力头的分组切分及张量 view 处理,修复多设备场景下 HIP Flash Attention 内核因 GQA 比例不均而中止的问题。

来源:GitHub · ggml-org/llama.cpp Releases · github.com