跳到正文
GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分33

llama.cpp b11905 发布

b11905

AI 导读

llama.cpp b11905 优化 Vulkan 中的 RMS Norm,采用 subgroup reductions,并加入快速路径以跳过第二个 subgroup。更新还修复构建错误,统一 BLOCK_SIZE 用法,为非 subgroup 路径增加 128、256、512 block sizes,并加入 AMD Vendor 优化。

来源:GitHub · ggml-org/llama.cpp Releases · github.com