IT之家 07-22
AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的 " 进程级 " 轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,英伟达 Vera 快 2.2 倍。IT 之家附上相关截图如下:

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片Kata ms ( deployed ) runc ms ( intrinsic ) IPC
NVIDIA Vera58293.62
AMD Zen5 Turin8735
Intel Granite Rapids103512.44
Intel Sapphire Rapids122642.44

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 ai 英特尔 it之家 物理
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论