热点科技 5小时前
NVIDIA公布更多Vera芯片参数:88颗核心,AI推理性能提升60%
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

NVIDIA 已经向部分客户交付首批 Vera 芯片。不过如今 Intel、AMD 以及客户的自研芯片都对 NVIDIA 芯片产生了威胁。近期 NVIDIA 公布了 Vera 芯片的具体参数以及基准性能,从而向业界展现其强大的研发实力,来让更多客户为 Vera 芯片买单。

Vera 芯片在诞生之初就是围绕 AI 打造,芯片规格为 88 核 176 线程,NVIDIA 称 Vera 芯片能够在高负载与高线程密度之间不断切换,从而提升处理器的能效,进而降低主机的功耗。

AI 推理以及训练需要更高的传输带宽,对此 Vera 芯片将会支持最高 1.5TB 容量的内存,实现 1.2TB/s 的传输带宽,单颗核心实现 14GB/s 的传输速度,CPU 之间的最高带宽达到前所未有的 3.4TB/s,与友商相比领先幅度明显。

最受行业关注的还是 NVIDIA Vera 芯片的具体性能,来自 DeepInfra 的基准测试显示,Vera 芯片在 AI 智能体处理速度是 X86 处理器的 2.2 倍,性能十分给力,DeepInfra 也利用搭载 Vera 芯片的服务器处理每周 5 万亿个 Token。

如今 AI 推理已经开始逐渐取代 AI 训练成为大模型厂商最大的资本开支,许多客户为了降低运营成本,开始考虑自研芯片或者选购 Intel 以及 AMD 这样老牌 CPU 厂商所提供的服务器处理器,这给了 NVIDIA 巨大的压力,如今 NVIDIA 公开 Vera 芯片的性能,估计也是给客户提供一颗定心丸,表示自家的产品很给力,让客户多多下单来提升自家的营收。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

芯片 nvidia ai amd intel
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论