跳到正文
GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分38

llama.cpp b11710 发布:CUDA 新增 grouped experts top-k fusion

b11710

AI 导读

llama.cpp 发布 b11710,CUDA 新增 grouped experts top-k fusion,并将其接入 graph_optimize;更新包含测试及多项 HIP 修复,发布构建列表覆盖 CPU、Vulkan、CUDA 12、CUDA 12.8、CUDA 13 和 CUDA 13.4。

来源:GitHub · ggml-org/llama.cpp Releases · github.com