GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分39
llama.cpp b11700 增加 Granite Switch 决策模型支持
b11700
AI 导读
llama.cpp b11700 增加 Granite Switch 决策模型的转换、通用组件与服务器支持,并更新服务器 README。该版本随后撤回了让决策模型同时支持聊天的相关改动,并明确 Granite Switch 支持决策时也始终支持文本。
来源:GitHub · ggml-org/llama.cpp Releases · github.com