世界人工智能大会(WAIC)2026 上,超节点、万卡集群是算力领域最吸引人的焦点。更大的集群、更高的带宽、更强的供给能力,构成了大模型时代最直观的基础设施叙事。
但安谋科技在 WAIC 期间的 AI 前瞻会上把讨论拉向了另一端:当 AI 从云端进入手机、AI PC、智能家居、汽车、机器人、工业设备和边缘节点,算力问题不再只是 " 够不够大 ",而是 " 合不合适 "。
"我们认为,边端侧 AI 不是云端 AI 的缩小版,而是由功耗、实时性、软件、数据、可靠性共同定义的新计算市场。" 安谋科技 Arm China NPU 产品线负责人、首席架构师舒浩博士在安谋科技世界人工智能大会(WAIC)2026 AI 前瞻会上的这句话,比具体产品参数更值得被记住。
安谋科技在 AI 前瞻会上没有把 CPU、NPU、VPU 和 AIOS 拆成四个孤立产品来讲,而是给出一套端侧 AI 的系统答案:硬件层面做异构,软件层面建生态,最终把自己从芯片 IP 供应商的位置,推向边端侧 AI 基础设施的组织者。
如何在资源受限的情况下让端侧稳定运行 AI?
端侧 AI 的机会,首先来自模型能力的下沉。
安谋科技 CPU 产品总监朱晓鸣在演讲中提到,2022 年、2023 年,要达到商用门槛的模型规模往往需要做到数百 B;但随着算法演进,到2025 年、2026 年,接近 1B 体量的模型也有机会达到商用最低标准线。
这意味着,过去只能运行在云端服务器上的 AI 能力,开始有机会进入端侧芯片。
但端侧 AI 真正难的,并不是模型能不能变小,而是变小之后能不能在真实设备里稳定跑起来。
手机要考虑续航,机器人要考虑低延迟,工业设备要考虑稳定性和生命周期,智能家居设备还要考虑成本和常开功耗。用户希望端侧设备具备更强推理能力、更长上下文、更实时交互,背后要解决的是电池、温度、内存墙和带宽墙。
朱晓鸣把端侧 AI 的约束讲得很直接:" 端侧 AI 并不是资源无限、无限子弹的 AI,它是一个资源受限的 AI。"
所以,端侧 AI 不是把云端模型搬到端侧芯片上,也不是简单在 MCU 旁边外挂一颗 NPU,而是在极其受限的功耗、面积、成本和带宽里,把 AI 能力挤出来。
这也是安谋科技推出 " 星辰 300"AIoT 原型平台的背景。
星辰 300 由 STAR CPU、Arm Helium 矢量扩展和 Arm Ethos NPU 组成,首代平台选择 STAR-MC2 和 Ethos-U55,目标是支持主流小模型,让传统 MCU 拓展出 AI 算力。
过去 IoT 强调的是连接万物,设备更多承担采集、连接和被动响应;AIoT 强调的是认知万物,端侧设备开始需要一定的感知、判断和决策能力。
安谋科技要做的,是把 CPU 的通用控制能力、Helium 的向量扩展能力和 Ethos NPU 的矩阵加速能力组合起来,在功耗、面积都受限的嵌入式设备里,跑出可用的 AI 能力。
端侧 AI 的竞争,不是比谁能把算力堆得更大,而是比谁能在更小的壳里,把更多 AI 能力跑得更稳。
Agentic 时代 NPU 最重要的不是峰值算力?
如果星辰 300 回答的是 AIoT 设备如何长出 AI 能力,那么周易 X3-Pro 回答的是更复杂的边端侧推理问题。
过去谈 NPU,行业很容易落到参数竞争:算力多少、能效多少、支持多大参数模型。
Agentic AI 正在改变 NPU 的定义。舒浩在演讲中提到,过去一年 AI 行业的变化集中在四个方面:模型能力提升,推理需求从云端向边端侧扩展;推理范式从单轮对话走向 Agent 多轮协作;工作负载高度分化;边端侧场景不断扩展。
这些变化最后指向同一个结论:"AI 算力底座的关注焦点,已经从峰值算力转向系统效率、场景适配性以及整体可部署能力。"
原因在于 Agentic AI 带来的推理变化,不是一次性请求变多,而是推理本身变成持续感知、上下文记忆、多模态理解和主动行动的循环。NPU 也就不能只被定义为推理加速器,而要变成 AI 智能体的计算底座。
但边端侧场景依然绕不开然碎片化问题。
手机、PC、可穿戴设备关心电池续航、个人隐私和本地响应;摄像头、门锁、机器人、自动驾驶关心多模态传感、低延迟和功能安全;工业网关、工控机、工厂服务器关心任务确定性、可靠性和应用长生命周期;边缘节点、AI 本地盒子又关心多路并发、24 小时在线和云边协同。
这些设备都需要 AI,但它们不会需要同一颗 AI 芯片。
这也是周易 X3-Pro 强调统一、分层、场景化架构的原因。舒浩把周易 X3-Pro 的设计哲学概括为:" 一次适配,多芯复用;面向场景,灵活配置。"
软件层面,安谋科技希望用统一架构复用模型适配、调优和部署经验;硬件层面,则通过不同配置适配不同场景对性能、功耗、灵活性和可编程性的差异化要求。
这才是边端侧 AI 真正的工程难题。
云端 AI 可以通过标准化集群和规模效应不断摊薄成本,但端侧 AI 要面对的是更长的产品周期、更多样的设备形态和更复杂的应用约束。谁能降低客户从模型到芯片、从芯片到产品的适配成本,谁才有机会成为端侧 AI 时代的底座。
用新一代 VPU 解决端侧 AI 怎么看
AI 进入真实世界后,视频的角色同样在变化,对 VPU 也有新的需求。
过去视频主要服务人眼。手机拍摄、社交传输、直播压缩,核心目标是让人看得清、传得快、存得下。但在机器人、自动驾驶、工业视觉等场景里,视频不只是内容,而是 AI 理解物理世界的数据入口。
换句话说,视频不再只是给人看,也要给机器看。
安谋科技 VPU 研发总监黄鑫博士在演讲中提到,随着 AI 应用和视频更加紧密结合,越来越多视觉感知模块需要用视频数据进行推理和训练,视频开始成为 AI 的 " 消费者 "。
这会改变 VPU 的设计目标。过去 VPU 追求的是压缩效率和主观画质,AI 时代,VPU 还要考虑压缩后的视频能否保留对 AI 推理有效的信息。如果视频质量受损,影响的可能不只是人眼观感,而是 AI 推理精度和训练效果。
安谋科技此次首次揭秘新一代 " 玲珑 "VPU" 武当 "。这款产品继承上一代 CAE 技术,在保持编码质量的同时,PPA 较上一代提升超过 40%,并支持更完整的编码规格。
更关键的是,安谋科技正在把 VPU 从局部优化推向端到端全局优化。
黄鑫提到,下一阶段 AI VPU 会从智能 CAE 这类局部优化,走向面向特定 AI 应用的端到端视频编码技术,在压缩和精度之间取得更优平衡。
他用一句话概括玲珑 VPU 的定位:" 让人类看清世界,让 AI 看懂世界。"
如果说 CPU 和 NPU 解决的是端侧 AI" 怎么算 ",VPU 解决的就是端侧 AI" 怎么看 "。
当机器人、汽车、工业设备、空间智能系统都需要通过视觉理解世界,视频压缩就不再只是多媒体问题,而会变成端侧 AI 基础设施的一部分。
端侧 AI 大规模部署的关键—— AIOS 联盟
硬件异构只能解决端侧 AI 的一半问题。另一半,是软件和生态。
端侧 AI 如果只停留在 " 芯片能跑模型 ",很难真正变成产品能力。Agent、具身智能、AI 眼镜、AI 玩具、机器人、边缘盒子等新型设备,需要的不只是底层算力,还包括模型推理、任务编排、记忆管理、端云协同、感知交互、隐私安全和开发者工具。
这也是安谋科技牵头发起开源 AIOS 联盟的原因。
安谋科技市场及生态副总裁梁泉在演讲中提到,每一代新型产品的变化,不仅是计算平台变化,也包括交互范式变化。PC 时代是鼠标和键盘,移动时代是多点触控,AI 时代则会出现语音交互、生成式 UI、具身互动和持续感知。
这意味着 AIOS 不是传统操作系统加一个模型接口。
AIOS 需要处理模型引擎、模型推理、端云协同路由、感知交互、Agent 任务编排、记忆系统和数据流。尤其是在具身智能和边缘设备中,视频、音频、文本等实时混合输入,会成为贯穿系统的核心数据流。
梁泉对 AIOS 的定义里,最关键的不是 "OS",而是交互。
他提到,新型 AIOS 是 " 基于感知的生成式交互和具身互动系统 "。如果只是把 AI 作为计算基础设施放在那里,过去 Linux、服务器系统已经可以承接很多能力;但新型边缘设备和具身设备要与人持续互动,交互会变成系统核心。
这一步,把安谋科技的角色从 IP 继续向上推了一层。
端侧 AI 产业链天然分散:有芯片公司,有模组厂,有设备厂,有模型公司,有开发者,也有终端品牌。单靠某一颗 IP,很难让 AI 进入海量设备。安谋科技想借助 Arm 在端侧的生态位置,把硬件 IP、软件栈、模型能力、开发者工具和终端产品组织到一个更开放的体系里。
开源 AIOS 联盟的意义也在这里,端侧 AI 从 " 硬件可用 " 走向 " 产品可用 " 必须补上的系统层。
端侧 AI 的竞争也是系统竞赛
从星辰 300 到周易 X3-Pro,从玲珑 VPU 到开源 AIOS 联盟,安谋科技传递出的信息,核心不是有新的 IP 产品,而是为端侧 AI 构建一套不同于云端 AI 的基础设施。
云端 AI 的竞争,更像规模竞赛。谁能提供更多 GPU、更强集群、更高吞吐、更低 Token 成本,谁就能在大模型训练和推理爆发中占据主桌。
端侧 AI 的竞争,则更像系统竞赛。它要在功耗、成本、实时性、隐私、设备形态和生命周期之间找平衡;要让不同尺寸、不同场景、不同产品周期的设备,都能以可控成本获得 AI 能力;还要让开发者和终端厂商不必为每一颗芯片、每一个设备、每一种模型重复适配。
这正是 " 端侧 AI 不是云端 AI 的缩小版 " 背后的产业含义。
当 AI 还停留在云端,算力基础设施的核心问题是如何支撑更大模型和更多 Token;当 AI 进入真实世界,问题会变成如何让每一台设备都具备可用、可靠、可部署的智能能力。
安谋科技构建的,正是这套边端侧算力底座。
如果说过去 Arm 生态的最大价值,是让移动互联网时代的计算能力进入每一台终端;那么 AI 时代,安谋科技要证明的是,Arm 生态仍然有机会把 AI 能力带进每一个真实设备。
端侧 AI 的下半场,不会只属于单颗芯片,它属于能把芯片、模型、OS、开发者和终端场景串起来的公司。雷峰网 ( 公众号:雷峰网 )
雷峰网原创文章,未经授权禁止转载。详情见转载须知。


登录后才可以发布评论哦
打开小程序可以发布评论哦