跳到正文
GitHub · ggml-org/llama.cpp Releases·· 15 小时前AI 评分36

llama.cpp b11873 发布

b11873

AI 导读

llama.cpp 发布 b11873,新增 OpenCL 对 q2_k 的初步支持。更新包括 q2_k 的 mul_mv_q2_k_f32、SOA mv、tiled mm、noshuffle gemm/gemv 和 dp4a gemm,并针对 Adreno 调优相关 kernels。

来源:GitHub · ggml-org/llama.cpp Releases · github.com