知乎专栏:机器之心· 机器之心·· 17 小时前精选AI 评分76
DeepSeek 开源 DeepInfer 推理框架和 deepseek-recipe
DeepSeek开源推理框架,有人算出AI的毛利:82%
AI 导读
DeepSeek 开源内部使用的推理框架 DeepInfer 及 token 编解码组件 deepseek-recipe,采用 Apache 2.0 许可证,当前支持 DeepSeek-V4.1-Flash。
推荐理由
文章将 DeepInfer 的开源能力与官方部署数据放在一起,说明第三方接入的工程价值,也呈现推理效率如何影响单位算力产出。
来源:知乎专栏:机器之心 · zhuanlan.zhihu.com