发生了什么
2026 年 10 月 12 日，面壁智能与 OpenBMB 开源社区发布新一代端侧多模态大模型系列 MiniCPM-V 4.7，包含 35B-A3B 与 1B 两个版本。两款模型均以 Apache 2.0 协议开放权重，并同步提供 GGUF、AWQ、GPTQ、FP8 与 int4 等量化版本，权重已上线 Hugging Face、ModelScope 与 Ollama。官方称 35B-A3B 是首个能够在手机端流畅运行且能力无损的开源大模型，主打「即问即答、无需等待」的本地多模态体验。
关键技术：把专家预取与计算重叠
MoE 模型的难点在于：虽然每个 token 只激活少数专家，但事先无法确定会用到哪几个，手机内存又装不下全部专家权重，于是必须从存储临时加载，一加载就卡顿。面壁智能自研的 LES（Lookahead Expert Scheduling，前瞻专家调度）会预测下一层所需的专家并提前预取，让加载与计算同步推进；实际路由决策仍由路由器决定，LES 只负责调度，不改动数学计算。官方称该技术为业界独家开源方案。
- 35B-A3B：总参数 352 亿，每 token 激活约 30 亿；40 层、256 个专家、每 token 选 8 个，上下文窗口 26.2 万 token。
- 1B：实际参数约 15.5 亿，主打端侧极致效率，官方称其在总体得分与推理效率上优于 Qwen3.5 0.8B。
- 配合分层混合精度量化、连续专家重排与 DSpark 推测采样，官方称 iPad Pro M4 上解码速度由基线 2.97 提升至 17.39 tokens/s，整体约 5.86 倍。
实测与生态支持
官方披露的受控评测（Instruct、4x 压缩）显示：MMBench 91.72、OCRBench 91.20、OmniDocBench v1.6 94.24、MMMU 80.22，对比 Qwen3.6-35B-A3B 的 86.76、86.00、80.17、77.44 均有领先；但在 SimpleVQA、ScreenSpot 等任务上仍落后。发布当日即支持瑞芯微、英伟达、英特尔、AMD、Arm 等平台，可运行于 vLLM、SGLang、llama.cpp 与 Ollama，并覆盖 iOS、安卓与鸿蒙。截至目前，MiniCPM 系列在 OpenBMB 社区累计下载量已突破 6000 万次。
为什么对企业有意义
把 35B 级多模态能力下沉到手机与平板，意味着文档识别、图文问答、离线推理等能力可以不再依赖云端调用，对数据不出本地、弱网环境与推理成本敏感的场景具有直接价值。对终端厂商与行业应用方而言，开源权重加当日可用的量化版本，也降低了把模型嵌入自有设备的门槛。
需要留意的口径与不确定性
第一，「3GB 内存」指的是运行时常驻内存，不是模型体积——35B-A3B 的 bf16 权重约 70.4GB，最小 GGUF 量化版约 15.5GB，二者不可混用。第二，上述跑分与提速均为供应商自测，尚缺第三方独立复现。第三，其语言骨干基于 Qwen3.5/Qwen3.6、视觉编码器基于 SigLIP2，属再训练衍生模型，并非从零构建，部分任务相对竞品仍有差距。