llama.cpp b11905 发布并优化 Vulkan RMS Norm
热点事件持续更新
llama.cpp b11905 发布并优化 Vulkan RMS Norm
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11905,优化 Vulkan 后端的 RMS Norm,采用 subgroup reductions 并加入跳过第二个 subgroup 的快速路径;该版本同时修复构建错误,统一 BLOCK_SIZE 用法,并为非 subgroup 路径补充 128、256、512 block sizes 及 AMD Vendor 优化。 官方提供 Ubuntu x64 和 arm64 的 Vulkan 构建包、Ubuntu x64 的 CUDA 12.8 构建包,以及 macOS Apple Silicon(arm64)构建包。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 03:08
llama.cpp b11905 发布报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- GitHub · ggml-org/llama.cpp Releasesllama.cpp b11905 发布
llama.cpp b11905 优化 Vulkan 中的 RMS Norm,采用 subgroup reductions,并加入快速路径以跳过第二个 subgroup。更新还修复构建错误,统一 BLOCK_SIZE 用法,为非 subgroup 路径增加 128、256、512 block sizes,并加入 AMD Vendor 优化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。