跳到正文
GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分40

llama.cpp b11953 更新:CUDA 新增支持 384 个专家的 top-k MoE 融合

b11953

AI 导读

llama.cpp b11953 为 CUDA 新增支持 384 个专家的 top-k MoE 融合。发布构建列表列出 Ubuntu x64 的 CUDA 12 与 CUDA 13 构建、Ubuntu arm64 的 CUDA 13 构建,并提供 CUDA 12.8 和 CUDA 13.4 libraries。

来源:GitHub · ggml-org/llama.cpp Releases · github.com