爱集微APP 10-31
引领技术创新 打造开放生态 Arm为边缘AI规模落地按下“加速键”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

当物联网从 " 互联 " 迈向 " 智联 ",边缘计算也正经历从 " 辅助算力补充 " 到 " 核心决策中枢 " 的关键转型。

当前,全球超过 70% 的物联网设备仍受限于低能效、弱 AI 算力的硬件瓶颈——要么因能效不足无法支撑续航表现,要么因难以运行复杂模型无法落地端侧推理,尤其在工业预测性维护、智能穿戴多模态交互、边缘大语言模型(LLM)部署等场景中," 算力与功耗平衡 "、" 安全与灵活性兼顾 " 已成为边缘 AI 规模普及和行业突破的核心痛点。

多年来,Arm 持续赋能边缘 AI 技术创新和生态打造。年初发布首个集成 Armv9 架构的边缘 AI 计算平台,日前又宣布将其集成至 Arm Flexible Access 方案中,进一步降低智能边缘设备的研发门槛。在助力智能、高效、安全的 AI 应用规模落地,激发边缘计算市场繁荣和推动技术突破的同时,Arm 通过推动物联网终端从 " 数据采集 " 向 " 智能决策 " 跨越,为全球边缘 AI 计算发展按下 " 加速键 "。

Armv9:领先架构释放边缘 AI 价值

当前,AI 正在加速经历从云端向边缘的转移。这源于边缘 AI 所具有的一系列优势,包括更快的响应、更好的安全隐私保护、更低的成本,而随着未来 70% 的推理将在边缘侧进行,边缘 AI 被视为发挥 AI 能力的最大价值所在。

传统的物联网时代,广泛多样的 IoT 设备以强调连接为特征,而在 AI 时代,边缘侧的 IoT 终端面临更高的能力要求,比如实时在线的感知能力,多模态的人机交互能力,本地化的数据处理能力,更高参数的大模型支撑能力,以及安全可靠的稳定性等等。

因此,边缘侧终端的能力因为 AI 时代的到来需要重新被塑造,而这则需要更加具备能效和性能,以及更加灵活性的计算平台予以支撑,从而承接边缘 AI 快速发展变化的市场需求。

作为半导体产业链的基石类计算平台公司,在 AI 领域深耕多年的 Arm 已为边缘侧人工智能时代的到来做好充分准备。

数年前,Arm 便推出了面向 AI 时代发展的 Armv9 架构,并持续进行优化,目前已经迭代到 Armv9.3 版本,使其在 AI 加速、安全性以及能效表现方面实现显著跨越。

今年 2 月,Arm 发布了首次集成 Armv9 架构的全新一代边缘 AI 计算平台,搭载了超高能效的 Arm Cortex-A320 CPU 和 Arm Ethos-U85 NPU。

近日,在深圳举办的 "Arm Unlocked" 活动上,Arm 物联网事业部硬件产品管理高级总监 Lionel Belnet 介绍 Armv9 边缘 AI 计算平台。

结合 Armv9 架构所具备的机器学习 ( ML ) 性能,如 Neon、SVE2 等向量处理技术,与 Ethos-U85 的高能效优势,最新一代 Arm 边缘 AI 计算平台显著提升了端侧 Transformer 网络的执行效率,与上一代平台相比,实现了 8 倍的 ML 计算性能提升,使边缘 AI 设备能够轻松运行超过 10 亿参数的大模型,助力大模型与生成式 AI 在物联网领域的落地。

同时,新平台实现了 "CPU+NPU" 的深度融合,比如 Cortex-A320 可以为 Ethos-U85 提供更高的内存容量与带宽,让大模型在 U85 上轻松执行。如果开发者有不希望在 U85 上运行的 AI 操作,可以回退到 Cortex-A320,使得 AI 计算和大模型能够根据实际的场景和工作负载需求实现灵活执行。

此外,新一代平台集成了先进的 Armv9 安全技术,如指针验证 ( PAC ) 、分支目标识别 ( BTI ) 和内存标记扩展 ( MTE ) 等,为工业、农业等领域边缘侧关键用例提供可靠的数据安全保护能力。

在软件和开发工具方面,Arm 还将 Kleidi AI 扩展至物联网领域,适配 Llama.cpp、ExecuTorch、MediaPipe 等主流 AI 框架,实现 70% 性能提升并降低 IoT 应用开发的门槛。

整体而言,凭借面向 AI 时代打造的最新架构 Armv9 的加持,新一代边缘 AI 计算平台,在性能、能效、安全性、灵活性等方面实现了显著提升,充分满足边缘 AI 发展需求的同时,也为加速边缘 AI 侧的技术创新和市场繁荣进一步奠定了基础。

Arm Flexible Access:模式创新助力生态繁荣

在边缘 AI 底层技术准备就绪之后,随之而来的便是如何推动实现进一步的规模普及和落地,从而助力更多企业把握快速变化的市场需求,而这离不开开放繁荣的产业生态支撑。

得益于 Arm 卓越的高性能和高能效技术优势,Arm 本就在物联网领域有着深厚的生态基础,近年来,其也不断通过技术和模式的创新,持续推动边缘 AI 产业生态建设。

日前,Arm 宣布将新一代边缘 AI 计算平台纳入其 Arm Flexible Access 方案,正是其在边缘 AI 生态建设方面的最新实践。

Arm Flexible Access 方案是主要面向低功耗物联网、可穿戴等领域的 Arm 技术授权订阅模式方案。其突出特征在于灵活性和低成本,非常适合边缘 AI 领域技术创新迭代密集、场景需求多样、企业玩家众多和成本敏感等特征。

首先,该方案对客户没有任何限制,无论是初创企业,中小企业还是大公司,都可以订阅。

第二,该方案提供丰富多样的 Arm IP、工具和培训。合作伙伴可根据不同需求灵活选择方案的级别,并利用方案中所包含的全部产品组合进行实验和设计。

第三,该方案以预付费、零成本或低成本的方式提供给客户。客户可以自由选择使用其中的 IP 授权,并在开发中根据实际需要随时切换,无需再单独购买,授权许可费仅在设计进入制造阶段时,根据最终 SoC 设计中所采用的 IP 进行费用计算。

可以说,"Flexible" 的命名恰如其分,Arm Flexible Access 方案为边缘 AI 的技术创新提供了一片广阔的 " 试验天地 "。正因如此,该模式一经推出便受到生态参与者的青睐。据了解,过去五年间,通过 Arm Flexible Access 方案实现的成功流片约达 400 次,活跃成员超过 300 家,包括 70 多家来自中国的合作伙伴。这些设计中,超过半数面向嵌入式与物联网应用,为边缘 AI 的产业发展注入强大动力。

创新与生态,是 Arm 迈向 AI 时代的核心底色。在谈及边缘 AI 生态构建时,Arm 物联网事业部硬件产品管理高级总监 Lionel Belnet 对包括集微网在内的媒体表示:" 衡量边缘 AI 生态系统成功的核心标准,在于其创新活力。" 无论是技术层面的创新,还是技术授权模式的创新,Arm 均在创新生态系统的构建进程中践行着承诺,且无疑已取得了显著的成就。

结语:

AI 的终点不在边缘,而是始于边缘,它正推动着下一波智能计算的浪潮。

随着大模型的小型化趋势,边缘 AI 推理将成为释放 AI 价值的关键,面向未来,70% 的 AI 推理都将在端侧进行,而推动 AI 推理在边缘侧的加速落地,离不开软硬件、生态的体系化支撑。

从这一点而言,作为底层技术基石和产业生态建设者,Arm 正通过卓有成效的探索和实践,推动边缘 AI 领域的加速创新。从面向边缘 AI 的先进架构,到配套工具;从更加强大的新一代边缘 AI 计算平台的推出,到更加开放灵活的商业模式的塑造,Arm 正通过持续产业赋能,为边缘 AI 生态注入活力,引领边缘 AI 的快速发展。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 物联网 技术创新 ai时代 边缘计算
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论