GitHub · ggml-org/llama.cpp Releases·· 7 小时前AI 评分33
llama.cpp 重构 server 入口点
b11867
AI 导读
ggml-org/llama.cpp 发布 b11867,重构 server 入口点。该版本列出 macOS、iOS 和 Linux 构建项,覆盖 Apple Silicon、Intel、CPU、Vulkan,以及 CUDA 12 和 CUDA 13。
来源:GitHub · ggml-org/llama.cpp Releases · github.com