DeepSeek开源DeepInfer及编解码组件

DeepSeek开源了内部使用的推理框架 DeepInfer 和 token 编解码组件 deepseek-recipe，采用 Apache 2.0 许可证，目前支持 DeepSeek-V4.1-Flash。 DeepInfer主要面向大规模部署，支持英伟达 SM100 GPU 和华为昇腾 950 NPU。当前开源仓库提供离线推理及支撑大规模服务的核心能力，但完整线上服务仍需配套 KV Cache、视觉编码、Prefill/Decode 分离部署和跨副本负载均衡等组件。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。