IT之家 07-22
AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的 " 进程级 " 轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,英伟达 Vera 快 2.2 倍。IT 之家附上相关截图如下:

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片Kata ms ( deployed ) runc ms ( intrinsic ) IPC
NVIDIA Vera58293.62
AMD Zen5 Turin8735—
Intel Granite Rapids103512.44
Intel Sapphire Rapids122642.44

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 ai 英特尔 it之家 物理
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论