(全球 TMT2025 年 4 月 6 日讯)Super Micro Computer, Inc. ( SMCI ) 宣布使用 NVIDIA HGX B200 8-GPU 在多个 MLPerf Inference v5.0 基准测试中率先实现了业界领先的性能。在特定基准测试中,4U 液冷和 10U 风冷系统实现了最佳性能。与 H200 8-GPU 系统相比,Supermicro 在 Llama2-70B 和 Llama3.1-405B 基准测试中展示了每秒生成令牌数 ( Token/s ) 超过 3 倍的效果。Supermicro 是唯一一家发布风冷和液冷 NVIDIA HGX B200 8-GPU 系统 MLPerf 推理性能记录(在特定基准上)的系统供应商。
Supermicro 的 NVIDIA HGX B200 8-GPU 系统,采用下一代液体冷却和空气冷却技术。在相同的 4U 外形尺寸下,新开发的冷板和新型 250 千瓦冷却剂分配单元(CDU)的冷却能力,比上一代产品提高了一倍多。新型风冷 10U NVIDIA HGX B200 系统采用重新设计的机箱,具有更大的散热空间,可容纳 8 个 1000W TDP Blackwell GPU。最多 4 个全新 10U 风冷系统可以安装并完全集成到机架中,其密度与上一代相同,同时提供高达 15 倍的推理和 3 倍的训练性能。
登录后才可以发布评论哦
打开小程序可以发布评论哦