手机中国 昨天
英伟达Vera团队谈芯粒取舍:AI智能体重塑CPU路线
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】10 月 19 日,据 "Wccftech" 报道,英伟达 Vera CPU 团队近日在接受采访时谈到了数据中心 CPU 设计思路的变化。团队认为,过去十多年云计算基础设施越来越强调单位服务器能够容纳的核心数量,Chiplet(芯粒)设计由此得到广泛采用,但这一方向也让单线程性能和 IPC 受到一定影响,随着智能体 AI 兴起,CPU 设计正在重新强调单线程性能。

英伟达

英伟达给出的原因与智能体 AI 的工作方式有关,AI 智能体并非持续在 GPU 上运行,而是会在模型推理、代码执行、工具调用、数据处理等环节之间频繁切换,其中不少 CPU 侧任务具有明显的顺序执行特征。如果这些步骤耗时过长,GPU 就需要等待 CPU 完成工作,因此 CPU 单线程速度、内存带宽和访问延迟都会影响整套 AI 系统的利用率。

Vera 处理器拥有 88 个 Olympus 核心,采用 10 宽解码架构,并支持 176 个硬件线程。与目前不少服务器 CPU 采用多芯粒组合不同,Vera 使用单片计算裸片,并通过第二代 Scalable Coherency Fabric 连接核心、缓存和内存控制器。英伟达官方数据显示,其片上互连双向带宽最高达到 3.4TB/s,并配备 164MB 统一三级缓存,核心间数据传输无需跨越不同计算裸片。

内存部分,Vera 搭配 SOCAMM2 LPDDR5X,整体内存带宽最高达到 1.2TB/s,平均每个核心最高约 14GB/s。英伟达认为,这种设计可以让大量智能体任务同时运行时,依然维持较高的单线程性能和相对稳定的延迟。官方此前也明确将 Vera 定位为面向智能体 AI、强化学习和数据处理设计的 CPU。

Wccftech 采访中,Vera 团队称该处理器整体性能约为 Grace 的 1.5 倍,在 Python 脚本、代码编译等部分智能体工作负载中,相比领先 x86 处理器最高可以达到约 2 倍性能。团队同时表示,英伟达最初在 Grace 时代主要把 CPU 视作 GPU 的主机处理器,但智能体工具调用和强化学习对 CPU 资源的需求不断扩大,因此 Vera 还会以独立 CPU 服务器和纯 CPU 机架的形式部署。

版权所有,未经许可不得转载

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 ai python gpu 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论