跳到正文
GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分35

llama.cpp b11876 修复 Vulkan 小型矩阵乘法瓦片错误

b11876

AI 导读

llama.cpp b11876 调整 Vulkan 小型矩阵乘法瓦片的 WM 计算,使每个 subgroup 对应一个 warp tile,修复 16-wide 和 8-wide subgroup 下的列写入及行计算问题。在 Pixel 9 Android 手机上测试后,原先失败的 20 个 MUL_MAT 和 6 个 MUL_MAT_ID 测试全部通过。

来源:GitHub · ggml-org/llama.cpp Releases · github.com