跳到正文
热点事件持续更新

llama.cpp b11905 发布并优化 Vulkan RMS Norm

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11905,优化 Vulkan 后端的 RMS Norm,采用 subgroup reductions 并加入跳过第二个 subgroup 的快速路径;该版本同时修复构建错误,统一 BLOCK_SIZE 用法,并为非 subgroup 路径补充 128、256、512 block sizes 及 AMD Vendor 优化。 官方提供 Ubuntu x64 和 arm64 的 Vulkan 构建包、Ubuntu x64 的 CUDA 12.8 构建包,以及 macOS Apple Silicon(arm64)构建包。

AI 根据报道生成 · 2 小时前更新

最新进展10月27日 03:08
llama.cpp b11905 发布

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11905 发布

    llama.cpp b11905 优化 Vulkan 中的 RMS Norm,采用 subgroup reductions,并加入快速路径以跳过第二个 subgroup。更新还修复构建错误,统一 BLOCK_SIZE 用法,为非 subgroup 路径增加 128、256、512 block sizes,并加入 AMD Vendor 优化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。