GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分39
llama.cpp b12077 版本更新:新增 GLM-5.3 next 张量支持并修复 MLA 注意力切分问题
b12077
AI 导读
llama.cpp b12077 增强 GLM-5.3 next 对非统一 KV cache 的支持,调整 MLA 注意力头的分组切分及张量 view 处理,修复多设备场景下 HIP Flash Attention 内核因 GQA 比例不均而中止的问题。
来源:GitHub · ggml-org/llama.cpp Releases · github.com