跳到正文
GitHub · ggml-org/llama.cpp Releases·· 19 小时前AI 评分41

llama.cpp b11795 发布

b11795

AI 导读

llama.cpp b11795 更新 server,使 `/v1/messages` 支持转发 llama.cpp sampling params,并可通过 `extra_params` 接收这些参数。请求改为直接传递而非复制列出的键,相关 README 示例同步展示 `extra_params`,同时移除了对应的简单测试用例。

来源:GitHub · ggml-org/llama.cpp Releases · github.com