跳到正文
GitHub · ggml-org/llama.cpp Releases·· 7 小时前AI 评分35

llama.cpp b11715 发布

b11715

AI 导读

llama.cpp 发布 b11715,ggml-cuda 的 HIP 使用 __builtin_amdgcn_perm 进行 q1_0 解包。构建条目覆盖 macOS/iOS、Linux x64/arm64/s390x,以及 CPU、Vulkan、CUDA 12 和 CUDA 13,并列出 CUDA 12.8 libraries 与 CUDA 13.4 libraries。

来源:GitHub · ggml-org/llama.cpp Releases · github.com