跳到正文
GitHub · ggml-org/llama.cpp Releases·· 7 小时前AI 评分33

llama.cpp b11564 调整 Vulkan 中 CM2 量化块大小的实现

b11564

AI 导读

llama.cpp b11564 调整 Vulkan 中 CM2 矩阵乘法的量化块大小处理,改用三元表达式避免 switch lowering。提交还明确了相关注释;发布页列出 CPU、Vulkan 和 CUDA 等构建条目。

来源:GitHub · ggml-org/llama.cpp Releases · github.com