跳到正文
GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分43

llama.cpp b12060 增加对 Clover 模型及 Clover MoE 的支持

b12060

AI 导读

llama.cpp 在 b12060 版本中新增 Clover 和仅支持自回归(AR)的 Clover MoE 支持,加入 GGUF 转换、模型加载及因果混合注意力机制。相关更新复用现有 attention、recurrent-state、MoE 和 LoRA 辅助组件,并更新模型架构测试及张量过滤逻辑。

来源:GitHub · ggml-org/llama.cpp Releases · github.com