跳到正文
GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分39

llama.cpp b11700 增加 Granite Switch 决策模型支持

b11700

AI 导读

llama.cpp b11700 增加 Granite Switch 决策模型的转换、通用组件与服务器支持,并更新服务器 README。该版本随后撤回了让决策模型同时支持聊天的相关改动,并明确 Granite Switch 支持决策时也始终支持文本。

来源:GitHub · ggml-org/llama.cpp Releases · github.com