跳到正文
热点事件持续更新

llama.cpp 发布 b11985

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

ggml-org 发布 llama.cpp b11985,更新 Metal 后端的 MXFP4 矩阵向量乘,并优化 unary、binary 和 GLU 内核。发布说明称,MXFP4 内核使用 fp16 位技巧解码 fp4 值,并取消 threadgroup memory、改用完整 threadgroup。该版本面向 macOS Apple Silicon(arm64);启用 KleidiAI 的 arm64 构建在发布信息中标为禁用。

AI 根据报道生成 · 2 小时前更新

最新进展10月30日 01:10
llama.cpp b11985 发布

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11985 发布

    llama.cpp 发布 b11985,改进 Metal 的 MXFP4 矩阵向量乘内核,使用 fp16 位技巧解码 fp4 值,并取消 threadgroup memory。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。