跳到正文
热点事件持续更新

llama.cpp b11968 加入 SVE 256 位内核

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

ggml-org 发布 llama.cpp b11968,在 ggml-cpu 中加入基于 SVE 256 位的 gemm_q6_K_8x8_q8_K GEMM 内核实现。 本次更新还按代码审查意见移除了 pg16_8,用 if 替换 switch,并将 q8_k_blocklen 标记为 UNUSED,以关闭非 i8mm 情况下的警告。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11968:加入 SVE 256 位 gemm_q6_K_8x8_q8_K 内核实现

    llama.cpp 发布 b11968,ggml-cpu 加入基于 SVE 256 bit 的 gemm_q6_K_8x8_q8_K kernel 实现。此次更新还按 review 意见移除 pg16_8、以 if 替换 switch,并将 q8_k_blocklen 标记为 UNUSED,以关闭非 i8mm 情况下的警告。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。