跳到正文
GitHub · ggml-org/llama.cpp Releases·· 17 小时前AI 评分41

llama.cpp b11729 发布

b11729

AI 导读

llama.cpp 发布 b11729,新增 Qwen3 的双向注意力与 dense_2 输出投影处理,并在转换流程中读取 base 的 use_bidirectional_attention。发布页面列出 macOS、iOS 和 Linux 构建,覆盖 CPU、Vulkan、CUDA 12 与 CUDA 13。

来源:GitHub · ggml-org/llama.cpp Releases · github.com