MiniCPM-V 4.7 – 面壁智能等开源的端侧多模态大模型

发布于 2026-10-14 · MiniCPM-V 4.7 是面壁智能联合 OpenBMB 开源的端侧多模态大模型，含 35B-A3B（MoE）与 1B 两个版本。

MiniCPM-V 4.7 是个什么模型

MiniCPM-V 4.7 是面壁智能联合 OpenBMB 开源的端侧多模态大模型，分 35B-A3B（MoE）与 1B 两个版本。旗舰版是全球首个能在手机端无损流畅运行的开源 MoE 多模态模型：靠前瞻专家调度技术，约 3GB 内存即可在 iPhone 上跑到 13+ tokens/s，34 项基准全面领先同档模型；1B 版则面向入门级设备。

MiniCPM-V 4.7 能做什么

通用视觉理解：看图识物、多图对比、视觉问答样样在行，MMBench 拿到 91.72 分，领先同档模型。
文档与 OCR 解析：图片、PDF 里的文字、表格、图表都能认，OCRBench 得分 91.2。
数学与 STEM 推理：数学题、科学问题都能解答，MMMU 80.22、MathVista 88 分。
长视频理解：长时序视频看得懂，也能回答相关问题，LongVideoBench 68.9 分。
端侧流畅运行：35B 模型在 iPhone 上只占约 3GB 内存，实时生成可达 13+ tokens/s。
低成本定制微调：开源了自回放微调方案，学新任务的同时不忘旧能力。

MiniCPM-V 4.7 的技术原理拆解

前瞻专家调度（LES）：MoE 模型的权重有 65.6 GiB，没法全部塞进内存，大部分专家只能放在 SSD 里、用到再读。麻烦在于逐层路由依赖上一层的结果，每一层都得停下来等读盘。LES 抓住相邻层输入高度相似的特点，用当前层的路由特征提前预测下一层要用的专家，在后台先把数据读进来；同时让已加载且被真实路由选中的专家优先计算。边算边读，实测提速 5 倍，输出零损失。
权重存取优化：逐层混合精度量化压缩权重的存储体积与传输量；再把专家权重在文件里的布局重排，原先分散三处的参数改为按编号连续存放，SSD 一次顺序读取就能取出完整专家，加载开销大幅下降。
视觉 token 压缩：基于 LLaVA-UHD v4，在视觉编码器内部提前压缩 token，从源头减少后续计算；支持 4 倍/16 倍两档压缩率切换，16 倍模式下关键指标几乎无损，画质细节与实时交互兼顾。
DSpark 投机解码：轻量草稿模块一次生成多个候选 token，主模型并行验证后批量产出，多个 token 分摊 MoE 的专家读取与调度等固定成本，实测生成速度平均提升 1.17 倍，质量不受影响。

MiniCPM-V 4.7 怎么上手

获取模型：从 GitHub、Hugging Face 下载模型权重与代码。
本地快速体验：访问 Hugging Face Spaces 上的官方 Web Demo（MiniCPM-V-4.7-Demo），免安装即可在线试玩。
安装 App：前往 GitHub 的 MiniCPM-V-Apps 仓库下载 iOS/Android 客户端，手机或平板装上直接用。
选择推理框架部署：按硬件平台从 llama.cpp、Ollama、MLX 或 vLLM/SGLang 里挑一个加载模型，本地推理服务就部署好了。
启用 LES 加速（可选）：端侧运行 35B-A3B 时，按开源文档打开前瞻专家调度，3GB 内存也能流畅跑。
选择视觉压缩模式：按需求在 4 倍压缩和 16 倍压缩之间切换。

MiniCPM-V 4.7 的项目地址

GitHub仓库：https://github.com/OpenBMB/MiniCPM-V
HuggingFace模型库：https://huggingface.co/collections/openbmb/minicpm-v-47

MiniCPM-V 4.7 的核心优势

端侧 MoE 全球首创：全球首个能在端侧无损、流畅运行的开源 MoE 多模态大模型。
极致内存效率：承载 65.6 GiB 权重的 35B 模型只要约 3GB 内存就能运行，相当于 16GB 设备内存的四分之一。
推理速度领先：iPhone 17 Pro Max 实测 13+ tokens/s，iPad Pro M4 能到 17+ tokens/s，LES 带来 5 倍提速。
性能全面碾压同档：34 项权威基准全面领先 Qwen3.6-35B-A3B，甚至超过体量更大的 Qwen 27B、Gemma-4 31B。
性能与效率帕累托最优：用更短的推理时间拿到更高综合得分，再度刷新端侧多模态”；性能—效率”；前沿。
双版本普惠覆盖：35B 旗舰拉高能力上限，1B 小钢炮让入门级设备也能跑高质量多模态。

MiniCPM-V 4.7 与同类竞品对比

对比维度	MiniCPM-V 4.7 35B-A3B	Qwen3.6-35B-A3B
推理速度	iPhone 17 Pro Max 上 13+ tokens/s，LES 提速 5 倍	偏慢，在同档里处于下风
综合得分	Instruct 模式下综合得分占优	综合得分稍逊
通用视觉	MMBench 91.72 / MMStar 80.67	不如 MiniCPM-V 4.7
STEM 推理	MMMU 80.22 / MathVista 88	不如 MiniCPM-V 4.7
OCR/图表	OCRBench 91.2 / CharXiv Reasoning 75.6	不如 MiniCPM-V 4.7
长视频	LongVideoBench 68.9	不如 MiniCPM-V 4.7
轻量化版本	1B 版全面优于 Qwen3.5-0.8B	0.8B 版
开源协议	Apache-2.0（代码+权重）	开源
芯片生态	Day-0 适配覆盖华为昇腾、海光等国产芯片	以适配阿里生态为主
微调支持	SRFT 自回放微调，低成本抗遗忘	标准 SFT

MiniCPM-V 4.7 的应用场景

移动办公与文档处理：在手机、平板上直接拍照或导入 PDF，文字识别、表格提取、图表理解、文档问答实时完成，不用上传云端，隐私保住了，移动办公效率也上来了。
离线教育辅导：学生在没有网络的设备上就能拍照搜题、做数学推理、问科学问题；35B 模型端侧可跑，网络条件差的地区也供得起高质量 AI 家教。
车载与机器人视觉：依托 Day-0 芯片适配，模型可以部署进车机和机器人终端，实时完成环境识别、障碍物理解与人机视觉交互。
视频内容理解与审核：长视频理解能力支持对端侧录制的长视频做内容摘要、关键帧问答与合规审核，安防巡检、内容创作都用得上。