GitHub · ggml-org/llama.cpp Releases·· 7 小时前AI 评分33
llama.cpp b11564 调整 Vulkan 中 CM2 量化块大小的实现
b11564
AI 导读
llama.cpp b11564 调整 Vulkan 中 CM2 矩阵乘法的量化块大小处理,改用三元表达式避免 switch lowering。提交还明确了相关注释;发布页列出 CPU、Vulkan 和 CUDA 等构建条目。
来源:GitHub · ggml-org/llama.cpp Releases · github.com