跳到正文
GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分40

llama.cpp b11571 发布

b11571

AI 导读

llama.cpp b11571 支持 vllm decision 2 model,加入 pplx-decider 与 vllm d2,并更新命名规则和严格校验。版本同时修复 CI、移除冗余的 filter_tensors,并提供 macOS、iOS、Linux CPU、Vulkan 及 CUDA 12、CUDA 12.8、CUDA 13、CUDA 13.4 构建。

来源:GitHub · ggml-org/llama.cpp Releases · github.com