GitHub · ggml-org/llama.cpp Releases·· 7 小时前AI 评分35
llama.cpp b11715 发布
b11715
AI 导读
llama.cpp 发布 b11715,ggml-cuda 的 HIP 使用 __builtin_amdgcn_perm 进行 q1_0 解包。构建条目覆盖 macOS/iOS、Linux x64/arm64/s390x,以及 CPU、Vulkan、CUDA 12 和 CUDA 13,并列出 CUDA 12.8 libraries 与 CUDA 13.4 libraries。
来源:GitHub · ggml-org/llama.cpp Releases · github.com