知乎专栏:量子位· 量子位·· 11 小时前精选AI 评分77
Recursive开源Flint:40B MoE模型可在MacBook Pro本地运行
4个月RSI从0训练!田渊栋创业首个模型来了:MacBook Pro可跑,已开源
AI 导读
Recursive开源首个模型Flint,这是一个总参数40B、单token激活25亿参数的MoE本地编程模型。配套推理引擎rec后,Flint在MacBook Pro上可达至少125 tokens/s,并在SWE-bench Verified上获得74.2%得分。模型支持最高512k token上下文,要求至少48GB统一内存和约30GB空闲磁盘空间。
推荐理由
原文同时给出Flint的本地运行配置、推理吞吐和编码基准,便于判断其在开发者笔记本上的实际使用门槛。
来源:知乎专栏:量子位 · zhuanlan.zhihu.com