跳到正文
GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分32

llama.cpp b11755 修复 Metal 对每个 token 选择 9 个专家时缺失的 MoE 内核变体

b11755

AI 导读

llama.cpp b11755 修复了 Metal 后端在每个 token 选择 9 个专家时缺失的 MoE 内核变体。发布页列出 macOS、iOS 和 Linux 构建,包括 CPU、Vulkan 与 CUDA 12、CUDA 13 构建。

来源:GitHub · ggml-org/llama.cpp Releases · github.com