GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分40
llama.cpp b11953 更新:CUDA 新增支持 384 个专家的 top-k MoE 融合
b11953
AI 导读
llama.cpp b11953 为 CUDA 新增支持 384 个专家的 top-k MoE 融合。发布构建列表列出 Ubuntu x64 的 CUDA 12 与 CUDA 13 构建、Ubuntu arm64 的 CUDA 13 构建,并提供 CUDA 12.8 和 CUDA 13.4 libraries。
来源:GitHub · ggml-org/llama.cpp Releases · github.com