跳到正文
知乎专栏:量子位· 量子位·· 11 小时前精选AI 评分77

Recursive开源Flint:40B MoE模型可在MacBook Pro本地运行

4个月RSI从0训练!田渊栋创业首个模型来了:MacBook Pro可跑,已开源

AI 导读

Recursive开源首个模型Flint,这是一个总参数40B、单token激活25亿参数的MoE本地编程模型。配套推理引擎rec后,Flint在MacBook Pro上可达至少125 tokens/s,并在SWE-bench Verified上获得74.2%得分。模型支持最高512k token上下文,要求至少48GB统一内存和约30GB空闲磁盘空间。

推荐理由

原文同时给出Flint的本地运行配置、推理吞吐和编码基准,便于判断其在开发者笔记本上的实际使用门槛。

来源:知乎专栏:量子位 · zhuanlan.zhihu.com