llama.cpp b11968 加入 SVE 256 位内核
热点事件持续更新
llama.cpp b11968 加入 SVE 256 位内核
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
ggml-org 发布 llama.cpp b11968,在 ggml-cpu 中加入基于 SVE 256 位的 gemm_q6_K_8x8_q8_K GEMM 内核实现。 本次更新还按代码审查意见移除了 pg16_8,用 if 替换 switch,并将 q8_k_blocklen 标记为 UNUSED,以关闭非 i8mm 情况下的警告。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 01:29
llama.cpp b11968:加入 SVE 256 位 gemm_q6_K_8x8_q8_K 内核实现报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- GitHub · ggml-org/llama.cpp Releasesllama.cpp b11968:加入 SVE 256 位 gemm_q6_K_8x8_q8_K 内核实现
llama.cpp 发布 b11968,ggml-cpu 加入基于 SVE 256 bit 的 gemm_q6_K_8x8_q8_K kernel 实现。此次更新还按 review 意见移除 pg16_8、以 if 替换 switch,并将 q8_k_blocklen 标记为 UNUSED,以关闭非 i8mm 情况下的警告。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。