跳到正文
GitHub · ggml-org/llama.cpp Releases·· 10 小时前AI 评分21

llama.cpp b12047:SYCL DMMV 代码清理与模板化重构

b12047

AI 导读

llama.cpp 的 b12047 更新清理了 SYCL 后端的 DMMV 代码,将 q8_0 reorder DMMV 合并到通用模板,并对非 K-quant 和 K-quant 的 DMMV 启动器进行模板化重构。此次更新还提供了面向不同平台的构建版本,涵盖 macOS、iOS 和 Linux,以及 CPU、Vulkan、CUDA 12 和 CUDA 13 等配置。

来源:GitHub · ggml-org/llama.cpp Releases · github.com