一部 iPad Pro，就能跑起 350 亿参数的国产多模态大模型

一部 iPad Pro，就能跑起 350 亿参数的多模态大模型——而且还是中文圈自己的。

面壁智能近日发布新一代端侧多模态大模型 MiniCPM-V 4.7，包含 35B-A3B 与 1B 两个版本。其中 35B-A3B 采用 MoE 架构，总参数 350 亿、每次推理只激活 30 亿，约 3GB 内存就能运行，在 iPad Pro 上实测解码速度达到每秒 15 个以上 token，基本能流畅对话。

更关键的是它的 " 适配广度 "：已经支持瑞芯微、NVIDIA、Intel 和 Apple 等国内外主流芯片平台，同时覆盖 iOS、安卓和鸿蒙系统，还开源了端侧适配代码和主流推理框架。换句话说，从手机到平板到开发板，基本都能塞进去跑。

端侧大模型的意义在于 " 数据不出设备 "。图像识别、文档理解、语音交互这些活儿，以前要传到云端，现在在本地就能完成，隐私和时延双双改善。设想一位医生在信号不好的基层医院，用平板离线总结病历；或一位工程师在车间里，用手机识别零件型号——这些场景，端侧比云端更稳更放心。

1B 版本则把门槛压到更低，适合嵌入式设备和轻量应用。面壁这条 " 小模型、高密度 " 的路子，和动辄几千亿参数的云端旗舰形成鲜明对照——一个往云上堆，一个往终端沉。它与苹果在设备端推 AI 的思路不谋而合，但更强调跨芯片、跨系统的开放适配。

从产业视角看，端侧大模型是把 AI 从 " 云上的少数玩家 " 拉向 " 每台设备 " 的关键一步。当推理成本降到本地可承担，更多中小应用开发者能绕开昂贵的 API 账单，做出真正接地气的产品——比如离线翻译机、本地相册整理、车间里的即时质检助手。

有人会问，端侧模型参数再大也拼不过云端旗舰。没错，但定位不同：云端负责最难的重活，端侧负责高频、隐私、低时延的轻活。两者不是替代，而是互补。未来最可能的形态，是 " 小模型在身边、大模型在云上 " 的混合协作。

国产端侧模型的进展，背后是整条产业链的成熟：芯片、框架、操作系统都在给端侧 AI 让路。当 350 亿参数能装进平板，离 " 每个人的设备都有自己的小大脑 " 就不远了。你最希望端侧大模型帮你干点啥？本地相册整理、离线翻译，还是私密文档总结？评论区说说。