英伟达发文称,随着智能体 AI 在各行各业落地投产,承载这类业务的基础设施必须高效承接海量 Token 需求。
全新实测性能数据表明:面对智能体工作负载,Vera Rubin NVL72 系统的每兆瓦吞吐量最高可达 GB300 NVL72 的 30 倍。英伟达采用 SemiAnalysis 的 AgentX 测试集完成推理吞吐量实测;该测试集记录真实智能体代码会话,完整还原上下文增长、工具调用、子智能体生成等真实行为。对于电力资源受限的 AI 算力工厂,这意味着同等能耗条件下,可以完成 30 倍规模的智能体任务。
Vera Rubin NVL72 的初步测试结果,体现英伟达创新迭代正在加速。伴随软件持续优化,Vera Rubin NVL72 与 GB300 NVL72 的性能还将继续提升。


登录后才可以发布评论哦
打开小程序可以发布评论哦