驱动之家 昨天
NVIDIA首款CPO交换机交付!单机架可省电3kW
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 6 月 11 日消息,NVIDIA 近日宣布其首款采用共封装光学(CPO)技术的 Quantum-X InfiniBand Photonics Q3450-LD 交换机已正式交付至 AI 云服务商 Lambda 的 GPU 集群,标志着硅光 CPO 技术从工程样片迈向量产部署阶段。

Q3450-LD 是一款 4U 液冷交换机,整机配备 144 个 800G InfiniBand 端口,总交换带宽高达 115.2 Tbps,无阻塞转发。

其采用四颗 NVIDIA Quantum-X800 ASIC 芯片构成多平面交换架构,每颗芯片提供 28.8 Tbit/s 交换能力。

与传统可插拔光模块方案不同,CPO 将光学引擎直接集成在 ASIC 封装旁,信号路径从厘米级缩短至微米级,链路损耗从约 20dB 骤降至 4dB,DSP 也被一同移除。

功耗方面,传统交换机功耗约 7.0kW,而 Q3450-LD 仅 3.95kW,单台节省 3.05kW,能效较传统设计提升约 1.77 倍。

在 41,472 块 GPU 的集群规模下,CPO 交换机可释放 4,392kW 电力,足够额外运行 3,137 块 GPU。

Lambda 测算,在 12.8 万 GPU 的数据中心中,传统方案需要 65.5 万个独立光收发模块,每个都是潜在故障点;CPO 大幅减少了光学组件数量,显著提升集群可靠性。

Lambda 指出,在三层 800G GPU 架构中,后端网络已占其总网络功耗的 86%。通过降低交换层功耗,CPO 为 GPU 释放更多电力余量,将直接转化为更高的 token 吞吐量。

目前 Lambda、CoreWeave、Meta、微软及甲骨文云基础设施均为首批采用者。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:红茶

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

gpu 芯片 基础设施 ai 甲骨文
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论