智东西

作者 | 云鹏

编辑 | 漠影

当前，随着 AI 技术与各类设备的加速融合，AI 早已不再局限于云端，而正在向边缘和端侧加速落地。据 SHD Group 预测数据，到 2030 年，边缘 AI SoC 市场营收或达千亿美元规模。

从应用层面来看，边缘 AI 能带来时延、安全、能效、成本和稳定性等多方面优势，但也在技术和生态层面带来诸多挑战。

举例来说，智能摄像头正通过本地运行更复杂的计算机视觉算法，工业传感器也更多在本地处理更复杂的 AI 模型，这类设备的本地运行模式，确实能带来更低时延与成本；但随着设备侧数据量持续攀升，工作负载达到新量级，数据安全的重要性也被提升到了空前高度。

在这样的背景之下，物联网厂商迫切需要新的 AI 算力底座帮助他们进行快速创新和扩展，行业正呼唤技术层面更高效、生态层面更完善的新解法。

近年来，作为计算平台领域重要玩家之一的 Arm，对 AI 的发展一直保持着敏锐嗅觉，其诸多重要策略均直指 AI 给各领域带来算力挑战。从数据中心、汽车、手机、PC 到 IoT，基于 Arm 生态的 AI 计算平台已经无处不在。

聚焦边缘 AI 领域，Arm 于今年二月发布了全球首个专为物联网及边缘 AI 工作负载优化的 Armv9 边缘 AI 计算平台，推动物联网行业加速迈入 AI 时代。如今，该计算平台将正式通过 Arm 技术授权订阅模式中的 Arm Flexible Access 模式开放获取，为边缘 AI 产业发展进一步注入新动力。

一、底层架构创新下放，Arm 新平台直指物联网 AI 融合痛点

纵观当前 AI 技术的发展，AI 大模型 " 小型化 " 趋势突出，越来越多的优秀小模型开始拥有更为出色的 AI 性能；与此同时，Agent 智能体浪潮涌起，Agent 成为各类垂类专业模型的 " 大管家 "，调度各类设备、统筹各类边缘和端侧数据，高效处理复杂的现实任务。

物联网设备的 AI 化已经成为一种必然，正如 Arm 所指出的，下一波 AI 计算创新浪潮将在边缘侧展开，在那些让智能更贴近数据产生源头的设备、接口与系统中蓬勃发展。

在这样的确定性之下，如何让物联网设备可以更好地在边缘侧落地 AI，已成为十分迫切的问题。整体来看，Armv9 在物联网领域的下放，提供了智能边缘设备大规模部署所需的高性能与高能效，其内置的安全机制还能兼顾数据安全，而架构本身的灵活性与可扩展性，更为后续发展预留了充足空间。

首先，AI 时代最核心的是 AI 性能。Arm 最新的边缘 AI 计算平台将性能拉满——通过集成增强的 Armv9 的 Neon 和 SVE2 向量处理技术，在 ML 性能方面，Cortex-A320 相较于前代超高效 CPU（Cortex-A35）提升了高达 10 倍的 ML 计算能力，标量性能提升了 30%；相较于去年推出的基于 Cortex-M85 的平台，新平台的 ML 性能提高了 8 倍之多。目前新边缘 AI 计算平台已经可以支持参数量超 10 亿的端侧 AI 模型。

Arm 物联网事业部硬件产品管理高级总监 Lionel Belnet 在与智东西等媒体的交流中提到，Arm 在边缘 AI 的 Armv9 产品矩阵可从超高能效的 Cortex-A320 一路展开到最新发表的超高性能 C1-Ultra，达到边缘 AI 全场景的覆盖。

能效方面，Arm 架构本身以低功耗著称，而 Armv9 边缘 AI 计算平台中包含了 Armv9 架构的超高能效 CPU —— Arm Cortex-A320，它的能效比较 Cortex-A520（Arm 的高效 Armv9.2 CPU）提升了 50%，进一步降低了功耗。

需要指出的是，能效对应的是企业成本，这对物联网这种对功耗要求严苛的行业至关重要，这也是 Arm 架构在该领域广受欢迎的原因。

另外一个至关重要的点是安全性。为了应对大量数据在边缘侧的采集、计算带来的数据隐私安全的风险，Arm 将 Armv9 的一系列先进安全技术下放到边缘 AI 市场，如指针验证（PAC）、分支目标识别（BTI）和内存标记扩展（MTE），给边缘侧的关键应用与数据安全提供了扎实的防护。

值得一提的是，在出色 AI 能力、高安全性的基础上，Armv9 架构的高扩展性、灵活性同样给物联网厂商们带来了开发层面的极大便利。

此外，边缘 AI 普及面临的最主要障碍之一就是软件开发和部署的复杂性，这正是 Armv9 边缘 AI 计算平台软件生态系统发挥优势的关键所在。

今年初 Arm 将开源 AI 库 Arm KleidiAI 扩展到了物联网领域，迄今已与几乎所有主流物联网 AI 框架进行集成。简单来说，Arm KleidiAI 可以让开发者无缝地利用到 Armv9 架构的先进功能和灵活性，简化边缘 AI 开发流程。

根据官方数据，在 Llama.cpp 上运行微软 Tiny Stories 数据集，KleidiAI 的集成给新的 Cortex-A320 可以带来 70% 的性能提升，同时 KleidiAI 兼容 Linux、Zephyr 等操作系统，灵活性大幅提升。

可以说，从性能、能效、安全到开发生态，新的 Armv9 边缘 AI 计算平台给物联网拥抱 AI 提供了新解法，让物联网赛道的厂商和开发者们能够更快抓住 AI 新机遇，加速边缘 AI 的落地。

二、进一步降低技术落地门槛，Arm 生态 " 朋友圈 " 加速扩容

做好了物联网边缘 AI 落地一揽子解决方案还不够，Arm 还进一步降低先进技术获取门槛，直接将 Armv9 边缘 AI 计算平台，Cortex-A320 与 Ethos-U85，正式引入 Arm 技术授权订阅模式中的 Arm Flexible Access 方案之中。

直观来看，Arm 从市场切入路径、成本结构、创新效率等方面给厂商带来价值，让技术更好地 " 落到实处 "，让所有中小企业能更好获益，加速实现 AI 普惠。

凭借这一模式，Synaptics、树莓派、Weeteq、Hailo 及 SiMa.ai 等合作伙伴已成功打造出具有开创性的边缘 AI 技术，在物联网诸多细分领域加速落地。

根据官方数据，目前基于 Arm Flexible Access 方案的合作伙伴已经实现超 400 次成功流片，活跃成员数量超过 300 家。在落地中国后，已有超过 70 家国内客户采用了该技术授权模式，进行产品创新开发。

结语：边缘 AI 风暴狂涌，Arm 技术生态迸发巨大潜力

当前，边缘 AI 的发展，促使行业对硬件和软件异构性、顺畅开发和规模化安全性三方面的需求猛涨，边缘 AI 计算创新势在必行。

Armv9 架构的诸多特性、出色的 AI 能力基础、完善的软件和生态支撑，都给行业各路玩家带来了新的可能性，新的 Arm 边缘 AI 计算平台无疑会成为新一轮物联网创新的催化剂。

展望未来，AI 向边缘、端侧的转移已经成为行业确定趋势，边缘 AI 正在加快各种技术设备的数字化转型。在这一未来趋势下，Arm 依靠硬核技术创新底色、灵活的技术获取模式以及深厚的开放软件生态系统，无疑展现出巨大潜力，成为物联网玩家在 AI 时代搏浪的坚实基座。