跳到正文
GitHub · ggml-org/llama.cpp Releases·· 6 小时前AI 评分23

llama.cpp b12023 预发布版本发布,修复共享决策前缀处理

b12023

AI 导读

llama.cpp 发布 b12023 预发布版本,修复服务器端共享决策前缀处理逻辑。新版本将共享前缀限制在父任务和各子任务的第一个必需输出位置,确保选项 token 共享时,最终 batch 仍保留决策输出 embedding。支持多种 macOS、iOS、Linux、Android、Windows 和 openEuler 平台及 CPU、CUDA、ROCm、Vulkan 等后端。

来源:GitHub · ggml-org/llama.cpp Releases · github.com