跳到正文
GitHub · ggml-org/llama.cpp Releases·· 16 小时前AI 评分34

llama.cpp b11719 发布

b11719

AI 导读

llama.cpp 发布 b11719,ggml-cuda 调整 fattn:当 k_VKQ_max = (k_VKQ_max - nbatch_fa) 时不检查越界(#30572)。该版本提供 macOS、iOS 及 Linux 构建,覆盖 CPU、Vulkan、CUDA 12 和 CUDA 13,其中包含 CUDA 12.8、CUDA 13.4 libraries。

来源:GitHub · ggml-org/llama.cpp Releases · github.com