端侧多模态新上限，350 亿参数 MoE 手机平板 3GB 内存畅跑，MiniCPM-V 4.7正式开源

发布于 2026-10-14

10月13日，面壁智能联合 OpenBMB 社区正式发布并开源端侧多模态系列最新模型——MiniCPM-V 4.7。本次更新聚焦于端侧能力的「上限突破」与「极致普惠」，同步推出 MiniCPM-V 4.7 35B-A3B 和 MiniCPM-V 4.7 1B 两个版本。

其中，MiniCPM-V 4.7 35B-A3B 是全球首个可在端侧无损、流畅运行的开源 MoE 多模态大模型，在 34 项权威基准测评中全面领先同档模型，实现约 3GB 内存即可在 iOS、安卓等系统上流畅运行，将端侧多模态 MoE 效率推向了全新高度。

同时刷新「性能与效率」前沿：端侧多模态大模型上限与普惠的统一

在内存、算力等资源受到严苛限制的端侧场景，需要在有限开销内提供尽可能强的能力，追求更高的「能力密度」。MiniCPM-V 4.7 以 35B-A3B 和 1B 两个版本，同时刷新了多模态大模型的「性能—效率帕累托前沿」：

35B-A3B：在 Instruct 模式下，以更短的推理时间取得了比 Qwen3.6-35B-A3B 更高的综合得分。
1B：在 MiniCPM-V 4.6 的基础上持续升级，得分和推理效率均显著领先 Qwen3.5-0.8B。

35B-A3B 旗舰版：端侧多模态能力新上限

在 34 项权威基准测评中，MiniCPM-V 4.7 35B-A3B 在通用视觉（MMBench 91.72、MMStar 80.67）、STEM（MMMU 80.22、MathVista 88、MathVerse 86.45）、OCR/图表（OCRBench 91.2、CharXiv Reasoning 75.6）和长视频（LongVideoBench 68.9）等核心多模态任务上全面领先同档的 Qwen3.6-35B-A3B，甚至超越了更大体量的 Qwen 27B、Gemma-4 31B，看图、读文档、做题、看视频，样样精通。

1B 小钢炮：轻量级设备的极致效能

1B 版本以极少参数量达到同尺寸性能第一梯队，专为广泛的移动终端普惠而生。与同档的 Qwen3.5-0.8B，乃至体量更大的 LFM2.5-VL 1.6B / 3B 相比，它在通用视觉、OCR、图表推理、多图理解上全面占优。

兼顾「轻盈体量」与「高效智能」，MiniCPM-V 4.7 1B 可以在入门级端侧设备上无压力流畅运行，让多模态能力覆盖更多日常设备与使用场景。

技术解析：比内存大 4 倍的模型，如何在手机平板上无损、流畅运行？

MiniCPM-V 4.7 35B 的完整权重约 65.6 GiB，是主流 16GB 设备全部内存的 4 倍多。要让它在端侧设备上真正「无损流畅运行」，需要同时做到：

装得下（低内存）：内存占用足够小，不挤占系统和其他应用；
跑得快（流畅）：生成速度足够快，使用不卡顿；
能力不打折（无损）：不靠削减精度或简化推理来换取速度。

「装得下」的前提来自模型架构。MiniCPM-V 4.7 35B-A3B 采用混合专家（MoE）架构，模型内部有大量被称为「专家」的子模块，每生成一个 token 只调用其中一小部分。因此，模型不必全部放进内存，大部分专家可以存放在固态硬盘（SSD）中，用到时再读入。

但这也带来了新的速度瓶颈。每一层要调用哪些专家，必须等上一层算完才能确定，读盘也只能从这时开始。结果是每生成一个 token，每一层都要停下来等一次读盘。

针对这一瓶颈，MiniCPM-V 4.7 秉持一贯的高效思路，把每一份算力用到极致，让模型实现「轻等待、高产出」。

01 前瞻专家调度：边算边读，提速 5 倍，性能无损

模型内部的信息是逐层累加的，每一层只在已有结果上补充一小部分，因此相邻两层的输入高度相似。而路由模块选择专家的过程，本质上是给所有专家打分后取前几名，输入的轻微变化通常不会打乱名次。

基于这一特点，MiniCPM-V 4.7 通过前瞻专家调度（Lookahead Expert Scheduling，LES）方案，从「提前加载、并行计算」和「减少搬运、加快读取」两方面协同提速。

专家预取与计算调度：提前备好，边算边读

LES 把当前层的路由输入特征直接送入下一层的路由模块，在计算当前层的同时，提前预测下一层将要使用的专家，并由后台线程提前把它们从闪存读入内存。等到下一层开始计算时，大部分所需专家已经就绪——读取时间被「藏」进了计算时间里。这套预测方法无需额外训练模型，在多数场景下能提前备好超过 80% 的所需专家，大幅缩短等待时间。

LES 同时调整了层内专家的计算顺序：实际路由选中且已经加载到位的专家先算，其余所需专家同步加载。通过让计算与读取尽可能并行，进一步减少加载等待和 GPU 的空闲时间。

这里的关键是，预判只决定「提前搬谁、先算谁」，不决定「最终用谁」。每个 token 实际调用哪些专家，仍由模型原有的路由模块根据真实输入选定；未被预判到的所需专家，也会正常加载并参与计算。因此，开启 LES 后，模型输出与关闭时完全一致，提速不以任何精度损失为代价。

权重存取优化：减少搬运，连续读取

除了提前加载，MiniCPM-V 4.7 还从权重大小和存储方式入手，让专家加载本身更轻、更快。

一方面，通过精细的逐层混合精度量化（layer-wise quantization），为不同层配置合适的权重精度，在模型能力几乎不受影响的前提下，减少权重占用的存储空间，以及加载时需要传输的数据量。

另一方面，团队重新设计了专家参数在文件中的存放方式：

原格式：同一个专家的参数分散在三个相距很远的位置，每次读取需要多次跳转；
新格式：每个专家的参数连续存放，并按编号依次排列，一次连续读取即可取出一个或多个专家，充分发挥固态硬盘的读取性能。

通过重组专家权重布局，让权重连续存储，减少分散读取，使闪存能够更高效地顺序读取所需数据。

两项优化共同降低了专家加载对端侧存储容量与带宽的需求，再与预取和计算调度配合，让模型在基本保留原有能力的同时，实现 5 倍提速。

综合以上优化，MiniCPM-V 4.7 35B-A3B 在 iPad Pro M4 16GB 上的生成速度达到每秒 17+ token，在 iPhone 17 Pro Max 上达到每秒 13+ 个 token 且仅用约 3GB 内存，实现了 MoE 模型在端侧的无损、流畅运行。

在 iPad Pro M4 16GB 的实机测试中，LES 使生成速度平均提升约 5 倍。

02 全链路提效：看图更省，出字更快

输入端：视觉 token 提前压缩，看图更省

MiniCPM-V 4.7 延续了上一代 MiniCPM-V 4.6 引入的 ViT 内提前压缩及混合 4 倍 / 16 倍视觉 token 压缩技术。其中， ViT 内提前压缩技术基于 LLaVA-UHD v4，在视觉编码器内部提前压缩视觉 token，减少后续编码层的计算开销，从源头降低视觉处理成本。

在此基础上，模型支持 4 倍 / 16 倍视觉 token 压缩率，让同一个模型可以在两种模式间按需切换：

4 倍模式（性能优先）：保留更多画面细节，适合文档解析和密集文字识别；
16 倍模式（速度优先）：显存占用更少、首响更快、功耗更低，适合实时交互。

MiniCPM-V 4.7 进一步提升了高压缩下的表现：开启 16 倍压缩后，关键分数基本保持不变：MMBench 90.87，OCRBench 90.4，OmniDocBench 93.25。这一成绩甚至高于其他同档模型在 4 倍压缩下的表现。

输出端：DSpark 投机解码，出字更快

MiniCPM-V 4.7 还适配了 DSpark 投机解码：由轻量草稿模块一次提出多个候选 token，再由主模型一次性并行验证。这样一来，主模型计算一次就可能产出多个 token，且每个最终输出的 token 都经过主模型确认，回答质量不受影响。对端侧 MoE 模型来说，读取专家、调度计算等固定成本可以由多个 token 分摊，单个 token 的生成成本明显下降。

在 iPad Pro M4 16GB 上，MiniCPM-V 4.7 35B MoE 在代码调试与实现、语法纠错、科学解释、逻辑推理、数学计算等实测任务中，最优设置下生成速度平均提升 1.17 倍。

03 自回放微调：轻松定制新能力，兼顾通用表现

针对特定场景微调模型，常常会遇到一个问题：新任务学得更好了，原有的识别、推理或指令遵循等基础能力却退步了。为此，我们推出了自回放微调（Self-Replay Fine-Tuning），让模型在学习新技能的同时，复习已经掌握的能力。

具体来说，微调前先让模型回答一批覆盖通用能力的问题，筛选出高质量回答，再与新任务的训练数据混合使用。这些「复习材料」来自模型自身，更贴近它原有的回答方式，有助于在提升目标任务表现的同时，减少对已有能力的遗忘。这套方法只需调整训练数据，无需修改模型结构、损失函数。

回放数据只需一次生成，就可以在模型学习不同新的能力或者开展多次训练时重复使用。相比在线强化学习或者 On-Policy Distillation 等训练方法要求模型每次训练都采样新的数据，自回放微调让定制新能力的成本无限接近普通的监督微调（Supervised Fine-tuning），同时保留模型的通用表现。

从芯片到工具链，Day-0 级全生态适配

01 芯片侧 Day-0 适配

依托长期构建的芯片合作生态，MiniCPM-V 4.7 已完成与 AMD、Apple、Arm、后摩智能、Intel、瑞芯微、NVIDIA 等厂商的 Day 0 级适配，并通过众智 FlagOS 统一AI系统开源软件栈完成了此芯科技、华为、海光信息、天数智芯、昆仑芯、沐曦股份、摩尔线程、曦望智能、平头哥、清微智能等多款AI芯片与端侧芯片的 Day 0 级适配，开发者可第一时间在相应硬件平台上部署和体验新模型。

目前，面壁智能已与爱芯元智、地瓜机器人、华为昇腾、海光信息、联发科技、高通、芯擎科技、紫光展锐等芯片及计算平台企业建立深度协同，广泛的软硬协同生态覆盖手机、PC、汽车、机器人、边缘设备及服务器等场景，让 MiniCPM 系列模型能够更快、更高效地落地到各类终端设备中。