跳到正文
知乎专栏:量子位· 量子位·· 6 小时前AI 评分69

面壁智能和OpenBMB开源MiniCPM-V 4.7,35B多模态模型可在手机端运行

iPhone断网跑35B多模态!国产开源新模型,只占3G内存

AI 导读

面壁智能和OpenBMB开源MiniCPM-V 4.7,提供35B-A3B和1B两个版本,可在iOS和安卓设备上进行断网多模态推理。35B-A3B总参数35B、每次推理激活3B,约占用3G内存,iPhone 17 Pro Max上的解码速度达到每秒13个token以上;1B版本实际参数为1.3B,支持OCR、数学和视频理解。

来源:知乎专栏:量子位 · zhuanlan.zhihu.com