快科技 9 月 11 日消息，继CPU、GPU之后，高通正式公布了新一代旗舰处理器的 Hexagon NPU。

高通技术公司产品市场高级总监 Cisco Cheng 在署名博客中表示，智能体 AI 将定义移动计算的下一个时代，这些智能系统能够理解用户个人情境、跨应用协同运行、持续推理，并根据用户意图完成操作。

这意味着移动端 AI 芯片需要解决的不只是算得快，还要解决持续算、低延迟算以及多任务协同算的问题。

针对这一趋势，作为专为终端侧智能体 AI 打造的新一代 Hexagon NPU，引入了两项关键变化，分别是 Element Accelerator 以及更大共享内存系统。

Element Accelerator 是此次架构升级的核心，针对 Transformer 工作负载进行了专门优化，并结合向量计算单元与标量计算单元。

其中标量计算单元负责智能体的决策逻辑、路由和编排，向量计算单元提供高吞吐量 AI 数学计算，加速大模型推理过程中关键的计算任务。配合 Fast Action Loops 和 KV-Cache 加速，支持最长 32K 的上下文长度。

另外随着模型规模不断增大，AI 性能的瓶颈并不一定单纯来自算力，数据在计算单元和外部内存之间频繁搬运，同样会带来明显的延迟和功耗。

对此新一代 Hexagon NPU 引入的更大共享内存系统，容量较前代增加 50%，让模型状态、上下文信息和 KV-cache 数据存储在更靠近加速器的位置，减少对外部内存的访问频次。智能体在处理更长上下文、调用更多工具以及执行更多并发任务时能保持流畅响应。

高通还正与领先的内存和模型厂商合作，把 MoE 混合专家模型引入终端侧 AI 架构，让大参数模型在端侧运行成为可能。

一个 300 亿参数的 MoE 模型，每生成一个词元只激活约 30 亿个被路由选中的参数，配合基于闪存的模型加载机制和缓存技术，以低功耗和低内存需求实现大模型级别的 AI 体验。

精度策略上，平台支持 INT2、INT4、INT8、FP8 和 FP16，开发者可在性能、内存、模型质量和功耗之间灵活平衡。

对于基于 INT4 的模型，该平台可实现最高 50% 的预填充性能提升，首词元生成时间缩短至 1.5 秒，解码吞吐更快，推测解码增强。

从整个架构来看，高通希望打造的已经不只是一个 AI 加速器，而是一套围绕终端侧智能体 AI 构建的计算体系。

随着更多 AI 功能从云端向终端迁移，手机本地算力需要承担的任务也将越来越复杂，高通此次围绕 NPU 计算单元、共享内存、模型架构和精度支持进行的布局，也是在为下一阶段的端侧 AI 能力提前铺路。

至于整个新一代旗舰平台的具体信息，则将在 9 月 22 日至 24 日（北京时间 9 月 23-25 日）的夏威夷骁龙峰会公布。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：黑白