GitHub · ggml-org/llama.cpp Releases·· 9 小时前AI 评分31
llama.cpp b11969 发布:通过预计算中点加速 IQ4 量化创建
b11969
AI 导读
llama.cpp b11969 通过预计算中点加速 IQ4 量化创建。该版本提供 macOS/iOS、Linux x64、arm64 和 s390x 的 CPU、Vulkan 构建,并支持 CUDA 12、CUDA 13 及对应库。
来源:GitHub · ggml-org/llama.cpp Releases · github.com