曾国洋

摄影 / 本报记者 宋霞

面壁智能推出的端侧模型已落地汽车行业

曾国洋 ( 后 ) 与同事在工作中 视频截图

2026 年，AI 大模型步入规模化应用阶段。决定 AI 能否落地的核心，不再是谁的参数更大，而是谁的模型能在有限算力、低功耗、弱网甚至无网环境中稳定运行。

作为国内第一个布局并实现端侧量产交付的大模型企业，面壁智能从清华的 NLP ( 自然语言处理与社会人文计算 ) 实验室起步，产品影响力越来越大。

1 分钟内完成事故分析

现在的人工智能进化成什么样了？直白地讲，它不仅有了 " 嘴 " 和 " 眼睛 "，还 " 长脑子 " 了。在今年的北京车展上，AI 大模型 " 上车 " 成为技术展示的核心。以前的车机（车载信息娱乐系统）你喊它时才应答，现在它自己就很有 " 眼力见 "：过收费站人工缴费通道时帮你摇窗；进隧道空气不好能帮你关窗；你转身拿后座东西，它会自动亮灯调座椅。

面壁智能推出的端侧模型重新定义了人类与人工智能的交互方式。试想，开车发生碰撞的瞬间，脑子是不是一片空白？端侧大模型就像一个车机里的 " 本地超级大脑 "，无需联网就能主动介入服务，手把手指导司机如何处理：从开双闪、挪车避免二次事故，到拍什么照片、怎么报警、理赔维修。

也就是说在人脑短暂反应空白的瞬间，车载 AI 即刻启动自主运算：" 检测到您在 ×× 路发生碰撞，别担心，正在分析中…… " 系统会在 30 秒至 1 分钟内完成一系列复杂分析：分析车辆三电、底盘等系统故障信息，判断事故严重等级；调用内外摄像头，识别碰撞时间、地点、对象、环境、天气及车内人员状态；根据所处路况提供明确指引；连怎么拍照留证都列得明明白白：两车全景 2 张 + 碰撞特写 2 张 + 地面标线 1 张 + 对方车牌 1 张 + 路牌 / 限速标志 1 张。

面壁智能产品负责人钱冰沁介绍，端侧模型的初步分析结果也会同步至用户的手机上。此时，手机端调用算力更强的云侧模型进行深度分析，生成责任划分、事故概述与过程还原等参考。之后，手机页面上就会提醒：如果对上述分析结果无疑问，请上传车损照片，以便测算维修费用。上传自己车辆以及对方车辆照片后，大模型会自动分析出赔付比例、市场参考维修价等。连怎么走保险最划算，都帮你算好。基于上述分析系统给出保险理赔和协商赔付两种处理方案。如果选择保险理赔，还会生成一份 " 报案沟通清单 "，让你从容应对。

从无人问津到几无对手

所谓端侧，就是让大模型在设备本地运行，而非依赖远程服务器。面向汽车、手机、PC、机器人、智能硬件等终端，提供可离线响应、可持续迭代的模型能力。在汽车行业，这一能力的落地载体主要是智能座舱——让模型真正理解用户意图，做到个性化、更聪明。

汽车行业是面壁智能端侧模型落地最快的赛道。钱冰沁透露，搭载上述功能的车辆将于年内量产上市。未来公司还计划与保险公司、理赔公司及车厂进一步打通，让定损信息直接回传，减少用户沟通成本。

这种快人一步的落地速度背后，是面壁智能在端侧大模型领域的先发优势——国内第一个布局、第一个落地端侧量产交付、全球首个可商用落地的开源端侧全模态大模型，这让面壁智能在这个细分赛道上，几乎没有对手。

" 目前在国内，做端侧车用模型的本来就很少，从端侧模型上车的角度看，我们目前在行业里还没有直接的竞争对手。虽然这次北京车展上，包括千问、豆包等厂商都在讲大模型上车，但他们更多还是主打云端方案。" 面壁智能联合创始人曾国洋介绍，云端模型和端侧模型并不是对立的关系，而是协作关系，车企关注 " 端云协同 " 正是看中这种互补，两者需要在不同场景下配合使用。

汽车场景对稳定性的要求非常严格。车辆行驶时，无法保证时刻都有网络。许多汽车为了追求简洁的科技感，取消了物理按键，把控制功能都集成到了智能交互系统里。但如果这套系统的核心完全依赖云端，一旦进入隧道、地库，或是行驶到偏远地区而断网，车窗、空调、车门等基础功能就可能 " 罢工 "，交互体验也不容许出现 " 开个车窗还要等五秒 " 的云端延迟。因此，这类基础车控功能必须由端侧模型来承载。

曾国洋进一步解释，端侧模型的核心优势在于：即使断网也能正常工作，响应速度快，没有数据上传下载带来的延迟，同时稳定性更高。聊天记录、工作文档都在设备本地处理，无需担心隐私泄露。它还可以根据个人的习惯和偏好进行定制训练，成为一个真正专属的 AI 助手。

在被誉为 " 中国科技风向标 " 的中关村论坛年会上，面壁智能的成果连续两年上榜：2024 年，其 AIAgent 智能体应用与端侧模型 " 小钢炮 "MiniCPM，一同入选 " 年度十项重大科技成果 "。2025 年，MiniCPM 端侧模型开源系列又作为 " 北京重大开源成果 " 入选。

入局大模型空白领域

如果说端侧是面壁智能的技术选择，那么开源，就是他们的一种坚持。2022 年面壁智能正式成立前，创始团队先发起了一个名为 OpenBMB 的开源社区，开启了中国最早的、全链路的大模型开源探索，初衷是加速百亿级以上大模型的训练、微调与推理，降低大模型使用门槛，实现大模型的标准化、普及化和实用化。

面壁智能既是开源社区的贡献者，也是受益者。这个社区不仅在技术普及上发挥了作用，还成为团队的 " 人才蓄水池 "。曾国洋表示，公司之所以能吸引越来越多的人加入，很大程度得益于 OpenBMB 在学术界积累的影响力。公司能做到这一切的前提，是其深厚的积累。2020 年 ChatGPT 还没出来时，他们就已做出国内第一个大模型，是国内最早一批做大模型研发的团队。

2019 年，曾国洋还是清华大学大三的学生，那时候还没有大模型，对人工智能感兴趣的他在清华大学自然语言处理实验室做相关研究。

因为在实验室做项目的技术能力全面，曾国洋被该实验室导师刘知远选中走上了创业之路。后来，预训练技术出现了，研究的方向开始从 " 场景级 " 转向 " 全场景 "，团队也投入到预训练的研究工作中。

曾国洋毕业那年的年底，OpenAI 发布了 GPT-3 ——世界上首个成规模的大模型。这项技术把大规模预训练推到了所有人面前。" 它特别有颠覆性。" 曾国洋表示，自己做了好几年的 NLP 研究，就要被取代了，这个模型也让他第一次看到了 " 真正的智能 "。

2020 年，他在北京智源研究院的支持下成立了一个项目，主导团队训练了国内首个中文大模型。团队起步时面临的是真正的 " 无人区 "：没有成规模的文本数据，就自己动手收集；国内连一个能支持大模型训练的机房都没有，他们就联合清华高性能计算团队，从机器上架、组网到调试性能，一步步摸索。每一个环节都是自主研发——从机房网络组织，到训练数据和框架的开发。正因起步早，这些开拓性成果都选择开源，方便更多研究者进入这个领域，共同推动大模型更快发展。

最早 600 万的种子轮投资是友情赞助。2022 年 8 月，北京面壁智能科技有限责任公司成立，他们在隔壁的写字楼租下了 100 多平方米的空间。一群技术极客埋头研发，自己做的大模型有多厉害，可能连他们自己也不清楚。直到 2023 年年初，ChatGPT 引爆全球后不久，同为清华校友的王小川走进了面壁智能。

王小川在桌边坐下，现场抛出一个问题：" 你这个模型，能不能帮我生成四轮医生和病患的对话？"

" 我没法保证能做成，只能试一下。" 曾国洋抱着试一试的态度，把需求输入模型。回车键敲下，屏幕上，文字一行行地吐了出来。模型不仅给出了四轮对话，而且有问有答、像模像样。

看到模型输出后，原本坐着的王小川立刻站起来走到投影大屏幕前反复仔细看。曾国洋记得那个瞬间：" 在场所有人都很震惊，我们自己也没想到模型居然能这么听话。" 曾国洋猜测，或许正是那一刻让他觉得，在外界都认为 ChatGPT 特别厉害的时候，国内一个小团队，居然也能做到这样的事。

" 小钢炮 " 以小博大

ChatGPT 出现之后，大模型赛道逐渐受到广泛关注。当时行业的主流方向是追求模型参数越大越好。从几十个参数一直卷到万亿，但万亿参数没带来真正的智能。

随着模型训练进入深水区，要在有限尺寸下实现更好的效果、提升知识密度，难度越来越大。曾国洋表示，研发大模型肯定是要落地应用的，之前一直做的是云端模型，但那段时间进展比较艰难——一方面很烧钱，另一方面商业模式也不清晰。从 2023 年下半年开始，他们转向端侧模型的研发，那时端侧模型还没有一个特别明确的概念。

曾国洋表示，2024 年在研发公司第四代模型时，试着做了一个轻量化模型训练做验证，结果发现轻量化模型的效果特别好，甚至比当时国外一些比它大好几倍的模型效果还要好。当时决定先把模型开源出去，后来就有了 MiniCPM ( 小钢炮 ) 这个模型，并持续在做开源。

提升模型知识密度，是一件难度很高的事情，需打通算法、数据、芯片适配全链路，还需要做大量基础设施建设，因为模型训练离不开算力支持。训练完之后，模型要投入使用，还需要进行微调和对齐，真正落地到芯片上，不仅需要模型算法的能力，还考验工程应用落地的能力。

端侧芯片与云端芯片差异巨大，必须进行大量的适配与量化工作，才能在方寸之间实现更快的速度与更低的功耗。云端模型可以不计成本地部署大规模算力集群，而端侧需要在严格的资源限制下实现极致效率，这是一道极高的工程壁垒。

2024 年，公司首创 " 知识密度 " 概念，打破了 " 参数越大越聪明 " 的片面理解。在相同的模型尺寸下，一个知识密度越强的模型意味着能力越强，每一次计算所需要的参数规模越小。以其最新发布的 MiniCPM（小钢炮）为例，仅用 20 亿参数就实现了超越 80 亿参数竞品的性能。

面壁智能研发团队将这个模型取名为 " 小钢炮 "，也正是因为它虽然轻量化，但性能和效果非常强劲，背后体现的是能用更好的技术去实现对更大模型的超越。" 小钢炮 " 不仅能代表模型以小博大的特色和优势，还成为创业的精神指引。曾国洋解释，" ‘小钢炮精神’最早来自我们做 MiniCPM 第一版模型时的经历。当时我们用了一个只有 2B 参数规模的模型，却超越了 Google 的 8B 模型和欧洲 Mistral 的 8B 模型，实现了以小博大。"

" 希望未来的智能体真正理解用户 "

" 走先人一步的路，打以少胜多的仗 "" 把大模型放到离用户最近的地方 "，走进这家公司，墙面上的这些语句十分醒目。

" 把大模型放到离用户最近的地方 " 这一点的体现主要在终端侧。与端侧相对的是云端，云端离用户较远，是一个虚拟世界，能在其中完成许多任务。而端侧处于虚拟世界与真实世界的边界上，一端连接用户和现实世界，另一端连接虚拟世界。手机、iPad、汽车、智能家居、可穿戴设备等端侧设备，已成为现代人类生活的必需品。让它们拥有更多 " 超能力 " 正是端侧模型做的事，离用户更近。

" 真正好的智能应该是懂你的，不需要你说太多就能理解你的意图。" 在曾国洋看来，这依赖于端侧模型的个性化能力。就像《钢铁侠》里的 AI 助手贾维斯，不只是一个问答机器，它能根据实时任务主动给出智能化回复，帮你规划并执行。

对于锚定新质生产力的创业者，和以往创业者最大的不同，曾国洋认为，拥抱变化非常重要。在 ChatGPT 刚出来、行业前景不确定的时候，愿意投入到这个方向，本身就是一种敢于拥抱新变化的表现。" 时代的大趋势不会因为个人抗拒而停止。特别是现在 AICoding 非常火，我写了快 20 年代码，能明显感受到它对程序员和软件行业的冲击。面对这种变化，有些人不相信 AI 能写代码，坚持自己写；也有些人非常积极，甚至去尝试‘一人公司’的模式。但无论个人态度如何，大的潮流不会因此而改变。"

曾国洋自己就是主动拥抱新变化的人。1998 年出生的他 8 岁自学编程，高二获信息学竞赛金牌保送清华大学，大二加入清华大学自然语言处理实验室，2020 年参与 " 悟道 · 文源 " 大模型研发，2022 年与导师刘知远联合创办面壁智能。

谈及未来，曾国洋希望能做出越来越好的大模型，能够把应用落地，把整个大模型的效果推到更高的高度。" 我们希望未来的智能体能够像贾维斯那样，真正理解用户，做到‘一切尽在不言中’。"

供图 / 受访者（除署名外）统筹 / 余美英