英伟达在 SC24 超算大会上宣布,进一步拓展旗下数据中心产品线,带来 GB200 NVL4 和 H200 NVL PCIe GPU 两款产品。
GB200 NVL4 是一种单服务器解决方案,扩展了 Blackwell 架构产品组合。其在单个主板上集成了四个 Blackwell GPU 和两个 Grace CPU,利用 NVLink 互连技术实现相互间的通信,配有 768GB 的 HBM3E 和 960GB 的 LPDDR5X 内存,提供了 32TB/s 的组合内存带宽,拥有卓越的单服务器系统规格,使其成为要求苛刻的 AI 工作负载的强大动力源。
英伟达表示,GB200 NVL4 与 GH200 NVL4 相比,提供了 2.2 倍的模拟性能、1.8 倍的 AI 训练性能和 1.8 倍的 AI 推理性能。该系统的功耗达到 5400W,安装了液冷散热系统,从而提供最佳的性能,预计将进入超大规模客户的服务器机架。
NVIDIA H200 NVL PCIe GPU 是 Hopper 系列的最新成员,非常适合拥有数据中心的客户,适配低功耗、风冷式企业机架的设计,并具有灵活的配置,可为每个 AI 和 HPC 工作负载提供加速。根据最新的调查显示,大约 70% 的企业机架的功率为 20kW 及以下,并采用风冷散热,这使得 PCIe GPU 变得至关重要。
NVIDIA H200 NVL PCIe GPU 为双槽厚度,TDP 为 600W,低于 H200 SXM 的 700W,同时 INT8 Tensor Core 算力也相应降低,下降的幅度约为 15.6% ,不过仍然支持双路或四路的 900GB/s NVLink 互联。相比于 H100 NVL,新产品的显存是其 1.5 倍,带宽也达到了 1.2 倍,并拥有 1.7 倍的 AI 推理性能,在 HPC 应用中性能也高出了 30%。
登录后才可以发布评论哦
打开小程序可以发布评论哦