跳到正文
热点事件持续更新

llama.cpp 发布 b11962

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

ggml-org 发布 llama.cpp b11962,在 CUDA 的 MMQ(矩阵乘量化)路径中融合 MoE 的 MUL_MAT_ID gate/up 与 GLU,相关计算路径随之更新。 发布条目还列出了 Ubuntu x64/arm64 的 CUDA 12、CUDA 13 构建,以及 macOS Apple Silicon、iOS XCFramework 和 Vulkan 构建。报道未显示该更新带来的性能结果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11962 发布:CUDA 在 MMQ 中融合 MoE 的 MUL_MAT_ID gate/up 与 GLU

    llama.cpp b11962 在 CUDA 的 MMQ 中融合 MoE 的 MUL_MAT_ID gate/up 与 GLU,带来相关计算路径更新。发布内容列出 Ubuntu x64/arm64 的 CUDA 12、CUDA 13 构建,以及 macOS Apple Silicon、iOS XCFramework 和 Vulkan 等构建条目。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。