快科技 7 月 26 日消息,受存储芯片价格高企和供应短缺影响,英伟达将大幅削减 Vera Rubin NVL72 机架级 AI 系统的内存配置。
从具体数据来看,机架中的 SOCAMM 内存模组容量从 192GB 直接减半到 96GB,Vera CPU 配套的内存总量从 54-55TB 砍到 28TB,CPU 机架部分同样改用 96GB SOCAMM。

唯一没动的是 GPU 侧的 HBM4 显存,每个机架依然保持 20.7TB。
英伟达这么做,直接原因是 LPDDR5X 市场供应紧张,受内存涨价影响,一套 Rubin NVL72 机架的成本可能高达 910 万美元,早先 780 万美元的估算已经过时,而 HBM4 的价格到 2027 年可能涨到每 GB 53 美元。
如果不做调整,内存成本将占到 VR200 整机物料成本的 29%、约 210 万美元,远超 20% 的理想水平。
而配置砍掉一半之后,效果立竿见影:VR200 的 LPDDR5X 成本从早先估算的 120 万美元降到 58.6 万美元,如果进一步压缩到原来的四分之一,甚至可以压到 29.3 万美元。

要知道,英伟达此前靠着提前签下的存储长期协议,已经是这波涨价潮里最能扛的公司,如今连它都要动刀,足见存储市场的压力有多大。
需要说明的是,Vera Rubin NVL72 本身就是目前最强悍的 AI 系统之一,今年 1 月刚刚发布。根据实测数据,在处理 MoE 大模型负载时,Blackwell 平台每兆瓦功耗的吞吐量为 8 万 token/s,Vera Rubin NVL72 则达到 80 万 token/s,整整提升 10 倍。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:青山


登录后才可以发布评论哦
打开小程序可以发布评论哦