GitHub · ggml-org/llama.cpp Releases·· 4 小时前AI 评分32
llama.cpp b11582 预发布版加入 ggml-zdnn Q8_0 矩阵乘法原型
b11582
AI 导读
ggml-org 发布 llama.cpp b11582 预发布版,新增 ggml-zdnn 的 Q8_0 矩阵乘法原型,并更新 zdnn 文档。版本提供面向多种平台和加速后端的构建,包括 CUDA、ROCm、Vulkan、OpenVINO、SYCL,以及 Snapdragon 的 Adreno GPU 和 Hexagon NPU。
来源:GitHub · ggml-org/llama.cpp Releases · github.com