GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分32
llama.cpp b11968:加入 SVE 256 位 gemm_q6_K_8x8_q8_K 内核实现
b11968
AI 导读
llama.cpp 发布 b11968,ggml-cpu 加入基于 SVE 256 bit 的 gemm_q6_K_8x8_q8_K kernel 实现。此次更新还按 review 意见移除 pg16_8、以 if 替换 switch,并将 q8_k_blocklen 标记为 UNUSED,以关闭非 i8mm 情况下的警告。
来源:GitHub · ggml-org/llama.cpp Releases · github.com