跳到正文
GitHub · ggml-org/llama.cpp Releases·· 4 小时前AI 评分32

llama.cpp b11582 预发布版加入 ggml-zdnn Q8_0 矩阵乘法原型

b11582

AI 导读

ggml-org 发布 llama.cpp b11582 预发布版,新增 ggml-zdnn 的 Q8_0 矩阵乘法原型,并更新 zdnn 文档。版本提供面向多种平台和加速后端的构建,包括 CUDA、ROCm、Vulkan、OpenVINO、SYCL,以及 Snapdragon 的 Adreno GPU 和 Hexagon NPU。

来源:GitHub · ggml-org/llama.cpp Releases · github.com