GitHub · ggml-org/llama.cpp Releases·· 14 小时前AI 评分44
llama.cpp b11556 增加对 Prism Bonsai 2 27B 的支持
b11556
AI 导读
llama.cpp b11556 增加了对 Prism Bonsai 2 27B 的运行时支持。此次更新还调整了 Prism Hadamard 张量、折叠权重及模型转换器相关逻辑;发布页列出 CPU、Vulkan 和 CUDA 构建版本。
来源:GitHub · ggml-org/llama.cpp Releases · github.com