量子位· 十三·· 12 天前精选AI 评分82
面壁智能发布 MiniCPM-V 4.7,35B 多模态模型可在手机端流畅运行
iPhone断网跑35B多模态!国产开源新模型,只占3G内存
AI 导读
面壁智能与 OpenBMB 正式开源 MiniCPM-V 4.7 系列模型,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 作为首个端侧 MoE 模型,通过前瞻专家调度(LES)和自回放微调技术,在仅占用 3G 内存的情况下即可在手机端实现每秒 13 个 token 以上的解码速度,且在多项视觉与文本评测中表现领先。
推荐理由
面壁智能发布 MiniCPM-V 4.7 系列模型,通过前瞻专家调度等技术实现 35B 参数模型在 3G 内存下的流畅运行,为端侧大模型部署提供了低内存占用的性能优化参考。
来源:量子位 · qbitai.com