GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分51
llama.cpp b11685 发布,更新 SYCL q4_K/q5_K 权重反量化
b11685
AI 导读
llama.cpp 发布 b11685,更新 SYCL 下 q4_K/q5_K 权重反量化的 wide stores。该版本提供 macOS、iOS、Linux CPU、Vulkan 以及 CUDA 12.8 和 CUDA 13.4 构建包,覆盖 x64、arm64 和 s390x 等平台。
来源:GitHub · ggml-org/llama.cpp Releases · github.com