跳到正文
GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分48

llama.cpp b11572 发布,支持 vllm d3 模型

b11572

AI 导读

llama.cpp b11572 更新支持 vllm d3 模型,并包含对 pplx-decider 和 vllm d2 的支持;变更还加入命名规则说明与更严格的 validation。发布构建覆盖 macOS/iOS、Linux CPU、Vulkan 以及 CUDA 12、CUDA 13 等平台。

来源:GitHub · ggml-org/llama.cpp Releases · github.com