梦晨 衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
好了好了这下坏了,黄仁勋接住梁文锋的招了。
昨天,DeepSeek 开源推理框架,教你如何用算力集群做到单卡每小时收入 38 美金。
今天,英伟达直接把算力集群搞成了预制菜,从 0 到开始平地起数据中心到开始产 token 只需 14 天。
按这个账算,如果是万卡集群,14 天上线后,满负荷、客户全满的理想状态下,每小时收入可以到 38 万美金(当然,前提是能拿到这么多稳定订单)。
这一次,英伟达不满足于只卖芯片和机柜,而是直接把整座 "Vera Rubin AI 工厂 " 塞进了模块化的集装箱里。
过去,建一座超算中心需要漫长的土木施工、现场布线和调试。
老黄在现场直接甩出一句狠话,彻底改写了数据中心的经济学:
一座 AI 工厂只有在开始产出 Token 时才创造价值,而不是在建筑施工完成时。
一个不经意,老黄带领大家跳过 " 买的越多省的越多 ",直接快进到 " 买的越多赚的越多 "。
有种 AI Infra 黄金时代的错觉
把 AI 工厂塞进集装箱,14 天交付满血算力
怎么让客户最快赚到 AI 的钱?答案是缩短 " 首 Token 产出时间 "(Time to First Token)。
全新发布的DSX POD 硬件产品线,完全围绕这一核心逻辑展开。
传统的 AI 数据中心建设,需要在现场进行极其繁琐的计算节点安装、网络布线、机架级供电和液冷管道铺设。一旦遇到零件延误或现场施工失误,动辄就要耗费半年以上。
现在,英伟达直接把包含最新Vera Rubin 系统在内的全套基础设施,做成了可重复量产的 " 集装箱 " 设计。
计算、网络、布线、供电以及液冷系统,全部在合作伙伴的制造工厂里就完成了集成、跨机架走线、管道连接和功能验证。
第一步,将最新的 NVIDIA Vera Rubin 计算系统,与高速网络、机架级供电和液冷散热系统打包。
原先的 Grace Blackwell 方案组装一个节点就要 2 小时,布线繁杂,而且液冷覆盖率仅 80%。
换成 Vera Rubin 之后,采用无线缆架构、100% 全液冷,单个节点组装缩短到仅需 5 分钟,同时可靠性和性能都得到提升。
第二步,在出厂前,把它们完整集成进专门定制的模块化集装箱(Modular Containers)里。
连机架与机架之间的跨柜布线、电力接线、液冷管道铺设,甚至全套系统的功能验证……
统统在制造工厂里提!前!干!完!
与此同时,客户现场的场地准备工作可以完全并行推进,两边互不耽误。
集装箱装着一座验证完毕的 " 满血 Vera Rubin 算力工厂 " 抵达准备好的场地,开箱接通现场预留的电力、冷却和网络基础设施,就能瞬间点亮。
最终提升效果堪称碾压级——
现场部署周期从传统 6 个月,最短压缩至 14 天。
英伟达将 Time to First Token(首 Token 产出时间)作为这项交付效率的衡量标准。
早一天跑起大模型训练和生产级推理,运营商就能早一天向客户交付算力、早一天开始印 Token 变现。
压榨每一兆瓦电力,推理吞吐暴涨 49%
不仅极限压缩到 2 周就能交付,老黄还贴心地配套了方案来缓解缺水缺电的问题。
上述 DSX POD 硬件产品线背后依托的,是英伟达全栈式 AI 工厂参考架构NVIDIA DSX 平台。
它将计算、网络、存储、软件、供电和散热各作为 " 单一系统 " 进行协同设计。
首先是电力与算力的极限压榨。
要建数据中心," 有多少电 " 决定了 " 能上多少卡 "。
为了打破电力瓶颈,英伟达甩出了两款软件大杀器:DSX MaxLPS与DSX Flex。
先说前者。
DSX MaxLPS 负责在 AI 工厂既定的电力预算内进行动态功率分配,产出完全相同数量的 Token,最高可以直接省电 30%。
反过来算,如果电力预算固定不变,省下来的电就能原地转化成多出来的算力。
实测数据直接拉满:
在云厂商 Lambda 基于NVIDIA HGX B200系统的概念验证中,固定功率预算下,集群 Token 吞吐量直接提升24%,可容纳的 GPU 算力容量增加19%。
在欧洲云厂商 Nscale 冰岛 AI 工厂的实测中,跨 4 个NVIDIA GB300 NVL72机柜、在相同的 264 千瓦供电预算下,推理吞吐量更是暴涨49%,受管 GPU 算力容量直接多出37%。
花同样的电费,硬生生多跑出近一半的推理算力。
而软件两大杀器中的第二个——DSX Flex ——则更进一步,让原本是 " 电老虎 " 的 AI 工厂,摇身一变成了电网的 " 柔性调节器 "。
它能根据电网负载、电价波动甚至现场光伏和储能情况,实时调整算力功耗,帮 AI 工厂更快拿到电网并网审批。
在英国国家电网、Nebius、Emerald AI 与英伟达的联合测试中,面对模拟电网突发事件,Blackwell Ultra GPU 集群在不中断关键业务的前提下,瞬间将集群功耗狂降 40%。
其次是散热革新。
传统数据中心靠冷却塔蒸发水来降温,耗水量惊人。
而 Vera Rubin 基础设施支持高达 45 ° C 冷却液温度的 100% 全液冷。
DSX 参考设计直接将闭环液冷与室外干冷器(类似巨型汽车散热片)结合,冷却液在封闭管路内循环吸热,再由干冷器将热量直接排入空气,全程不蒸发水,将设施冷却耗水降至接近于零(减幅达 100%)。
在一座 2 吉瓦(2GW)规模的 AI 工厂里,相比传统冷却塔,DSX 每天能省下 5400 万升水。
这相当于 18 万户家庭一整天的用水量。
上 Hugging Face" 云盖楼 ",开源 OS 全自动托管
为了把建厂效率推向极致,英伟达甚至把 " 基建模拟器 " 搬上了开源社区。
全新推出的物理设备数字模型库 NVIDIA SimReady Central,今天正式登陆 Hugging Face。
里面直接打包了维谛(Vertiv)等合作伙伴经过验证的供电与散热设备 3D 数字资产。
配合 DSX Sim 仿真工具,工程师无需在实体场地动手施工,便可搭建 AI 工厂的数字孪生。
从这也能看出来,为什么英伟达要收购 Hugging Face 了。
供电和散热情况,还有西门子正在测试的声学噪音等,全都可以提前模拟验证。
硬件落地后,软件无缝接管。
英伟达宣布扩展开源的 DSX OS 基础设施管理软件组合,一口气放出三大开发者预览版组件:
- NVIDIA Config Manager
全自动搞定 AI 工厂复杂的网络配置
- NVIDIA Rack Management Service
提供机架级的电源、资产盘点、固件与交换机统一管理
- NVIDIA Cluster Readiness Engine
在正式生产任务到达前,自动运行分布式负载来验证 GPU 集群,提前揪出故障并精准隔离到具体节点
配合底层控制器与运行环境,从虚拟设计、集装箱出厂,到自动压测上线,英伟达彻底把造超算变成了一条全自动流水线。
晒出地表最强 " 基建朋友圈 "
既然要批量制造 " 集装箱 AI 工厂 ",自然少不了全球产业链的加持。
老黄现场再次晒出横跨计算、能源与工业软件的 " 最强基建朋友圈 "。
负责把 DSX POD 集装箱造出来并推向全球的合作伙伴,阵容极其豪华:
戴尔(Dell)、HPE、联想、富士康(鸿佰科技)、技嘉、和硕、广达(云达)、纬创,以及 Anduril、Armada、Bull、Crusoe、DayOne、台达、伊顿巨头悉数在列。
预计明年(2027 年)初,这些预制好的模块化 AI 工厂就将在全球范围内正式交付。
在全球云生态中,CoreWeave、Google Cloud、Lambda、Nebius、Nscale、Crusoe、G42、IREN 等 AI 云厂商已全面拥抱 DSX 软件栈。
更上游的工业与能源巨头也全部进场:
施耐德电气与 AVEVA 忙着做 Vera Rubin 的全生命周期数字孪生;达索系统与维谛联合仿真 OneCore 基础设施;ABB 正基于 DSX Sim 开发 SimReady 数字资产,并通过新发布的 Infinitus 直流产品组合推进 800V 高压直流(800 VDC)架构研发;日立能源、西门子能源与 GE Vernova 则直接下场,帮英伟达搞定从电网规划到储能系统的深度协同。
One More Thing
把时间拨回 2024 年的 GTC 大会。
当时老黄站在台上指着全新的 Blackwell 机柜说:" 英伟达的 AI 超级计算机,就是 AI 工业革命的工厂。"
那时候,很多人还以为 "AI 工厂 " 只是一个商业包装概念,把数据当原料,把 Token 当产成品。
仅仅两年半过去,老黄把这个比喻变成了字面意义上的物理现实。
他不仅定义了芯片(Vera Rubin)、定义了机柜(NVL72),现在甚至连集装箱(DSX POD)、散热水管、电网调度、乃至西门子和施耐德的工业设计图,都一并纳入了 " 英伟达标准 " 之下。
当缺电、缺水、缺熟练工、建厂慢成为卡住 AI 扩张脖子的最大瓶颈时,老黄大手一挥,索性跨界当起了 " 全球总包工头 "。
以前科技巨头买算力,是向英伟达买显卡,自己回去攒机;后来行业采购形式 " 进化 " 成买整机柜。
到今天,算力采购已经如同选购预制菜,客户可以批量采购封装在集装箱内的 AI 发电厂,对接配套设施之后仅需 14 天就能产出 Token。
如你所见,英伟达的边界早已超越一块小小的的芯片和单台服务器。
老黄想做 AI 时代的整套物理基座的王。
至少在这一轮全球性的算力基建浪潮当中,黄仁勋就是那个掌握整套顶层方案,站在船头用望远镜眺望的人。
视频回放:
https://www.youtube.com/watch?v=PvFjbPYEOZI


登录后才可以发布评论哦
打开小程序可以发布评论哦