GitHub · ggml-org/llama.cpp Releases·· 19 小时前AI 评分41
llama.cpp b11795 发布
b11795
AI 导读
llama.cpp b11795 更新 server,使 `/v1/messages` 支持转发 llama.cpp sampling params,并可通过 `extra_params` 接收这些参数。请求改为直接传递而非复制列出的键,相关 README 示例同步展示 `extra_params`,同时移除了对应的简单测试用例。
来源:GitHub · ggml-org/llama.cpp Releases · github.com