GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分32
llama.cpp b11755 修复 Metal 对每个 token 选择 9 个专家时缺失的 MoE 内核变体
b11755
AI 导读
llama.cpp b11755 修复了 Metal 后端在每个 token 选择 9 个专家时缺失的 MoE 内核变体。发布页列出 macOS、iOS 和 Linux 构建,包括 CPU、Vulkan 与 CUDA 12、CUDA 13 构建。
来源:GitHub · ggml-org/llama.cpp Releases · github.com