智东西

作者 | 王涵

编辑 | 漠影

从年初的 " 小龙虾 "OpenClaw 爆火出圈开始，Agent 的爆发便势不可挡。

从单一模型的阶段性训练与推理，到大模型训练、多模型协同推理和海量 Agent 持续运行 …… AI 任务正在进入一个 " 永远在线 " 的新阶段。

在 2026 世界人工智能大会（WAIC 2026）上，中国工程院院士、清华大学计算机科学与技术系教授郑纬民曾提出，单智能体的 Token 消耗量可达传统对话应用的百倍至千倍级。随着海量 Agent 并发调用模型、读写记忆、编排任务、执行工具，Token 的消耗速度正以指数级飙升。

Token 需求的暴涨，直接推高了 AI 基础设施的规模天花板，千卡集群不够用了，万卡、十万卡正在成为前沿大模型训练的标配。

但数据中心的电力和空间是有限的，要想满足没有上限的 Token 需求，核心的方向是在单位空间内塞进更多算力，把算力密度逼到极致。

算力密度提升，单机柜功耗必然飙升，从数十千瓦跃升至数百千瓦，并进一步向MW 级迈进。

但这时问题出现了。当单柜功率到达这个量级，传统冷板液冷方案会导致机柜散热跟不上、空间不够用、互连被干扰，三条瓶颈同时在有限的空间里收窄。

Token 工厂想继续扩产，计算、散热、互连、供电不能再各自为政，必须从系统底层找到新解法。

原生液冷，这个从系统层面将计算、散热、互连、供电耦合的方案，开始出现在行业视野。

一、Token 需求井喷，把传统液冷的三重困境逼出来了

Token 需求爆发推高了单机柜功率，也把部署空间压到了极限。在这样的场景下，传统液冷的短板被急剧放大。原本在低功率密度下尚能运转的方案，如今在三个关键维度上同时亮起了红灯。

第一个困境是算力密度受限于全系统热管理。

高算力密度意味着单位空间内集成了更多芯片乃至 HBM、内存、网卡、光模块等全系统部件，也意味着需要导出更多热量。在高密度部署下，传统冷板液冷 " 逐个加板 " 的方式终究难以追上全系统发热的增长速度。

一旦散热能力跟不上，芯片触发温度墙而降频，Token 产出就从峰值开始持续衰减。散热跟不上，Token 就掉速。

第二个困境是散热结构持续挤占计算空间。

当前冷板液冷占据了液冷数据中心市场93.5%的份额，但绝大多数方案的底层逻辑依然是将风扇、冷板、软管、分液器层层叠加。散热结构层层堆叠，不断挤占本属于计算单元的空间，进一步压缩单柜 GPU 的装载上限。

当机柜功率迈向 MW 级，这种空间矛盾被急剧放大：散热越复杂，挤占的空间越多，能放下的计算单元就越少，单柜 Token 产能上限就这样被锁死了。

第三个困境是散热与互连的冲突在 MW 级被放大。

Scale-up 计算域扩大，需要更多计算节点和交换节点组成高带宽、低时延的统一系统。但在传统架构中，背板、线缆、风道、冷板、液路分别规划，互连路径被拉长，接口数量增加，通信时延上升。

当几十甚至上百颗 GPU 需要频繁同步数据时，哪怕微小的时延都会被成倍放大，多卡并行推理的整体效率被系统性压低。互连效率折损，Token 生成就变慢。

三重困境指向同一个结论：Token 工厂的问题已经超出了 " 散热 " 本身，而是计算、互连、供电、散热在有限空间内互相掣肘的系统性困局。

要同时摆脱这三重困境，必须从系统设计的源头重新思考——把计算、散热、互连、供电作为统一整体来规划。

二、原生液冷：从系统源头回应三重困境

那什么才是 " 从源头重新思考 " 的正确姿势？把冷板做大一点、把软管换粗一点 …… 这些常规思路只能治标，要想治本，我们就需要换一种思路——原生液冷。

传统液冷是 " 先定计算、再配散热 "，在计算系统定型后再找空间塞液冷设备。原生液冷不是冷板液冷的 "Pro Max" 版，其本质区别体现在三个维度：

在时间维度上，热设计从后置变为前置，不再是谁将就谁；在空间维度上，散热从分散覆盖走向全域管理，不再割裂；在逻辑维度上，优化的对象从单一散热部件上升为整个计算系统，计算、散热、供电、互连不再各自为政。

这种系统重构，正是沿着算力密度、空间密度和互连密度逐一展开，最终都指向Token 产能。

先看算力密度。原生液冷采用散热架构与计算架构协同的全系统热设计，通过一体化冷板与全域液冷重构，实现整个计算系统协同散热。

它跳出了传统冷板液冷架构分模块局部优化的思维惯性，将GPU、CPU、内存、网卡、光模块、SSD 全部纳入统一热管理，整机柜算力密度可提升至传统方案的10 倍以上。

散热能力上去了，芯片在持续高负载下不掉频，Token 产出稳定在峰值，不随时间衰减。

再看空间密度。原生液冷通过系统结构重构，充分释放计算部署空间，采用一体化冷板和极简工程设计，实现零软管、零线缆、零风扇，装配接口减少80%，流阻降低60%，释放50%设备空间用于芯片、内存和互连等核心单元。

同样的机柜空间，可承载的计算单元数量大幅跃升。散热不再挤占空间，单柜 Token 产能上限被彻底打开。

互连密度的突破同样重要。原生液冷采用无中背板正交直连架构，将计算节点与交换节点解耦，通过前后向最短路径构建高密、低时延的直连网络矩阵。

基于单 GPU 与 Switch 4.8TB/s 高速直连设计，64 卡全互连架构可提供 300TB/s 互连带宽，支持 224G 高速数据传输。更短的互连路径意味着更低的通信时延、更高的多卡协同效率，让更多计算资源能够高效协同工作，集群整体 Token 吞吐能力被系统性拉高。

三、Agent 时代需要两类算力底座，浪潮信息用原生液冷同时覆盖

从三重困境到三个维度的突破，原生液冷证明了系统重构的价值。

但架构逻辑成立之后，下一个更现实的问题是：这些能力最终如何落地为产品？Agent 时代的算力底座，到底需要什么样的硬件支撑？

要回答这个问题，得先看清 Agent 的工作方式。一个 Agent 从接收指令到完成任务，要经历工具调用、记忆读写、任务编排、并行调度等多个步骤。而这些 " 编排调度 " 类任务，主要运行在 CPU 上。

换句话说，Agent 的完整工作流是 " 两条腿走路 "：GPU 负责高速生成 Token，CPU 负责高效调度 Agent。两类算力缺一不可，任何一端掉链子，整个 Agent 系统的响应速度都会被拖垮。

IT 基础设施产品、方案和服务提供商浪潮信息，基于原生液冷架构，针对这两类需求分别推出了对应的高密整机柜产品。

先看 GPU 侧，浪潮信息的GPU 原生液冷整机柜服务器，在 48U 空间内承载了千卡算力——单柜算力密度达到传统方案的10 倍以上。

它创新采用一体式 SDAC 冷板，将 GPU、CPU、内存、网卡、光模块等热源在整块冷板上双面高密平面化部署，散热效率翻倍；互连方面，则首创无中背板 MDP 矩阵式直连架构，1024 颗 GPU 与 Switch 之间通过高速直连形成高密全互连矩阵，支持千卡、万卡超大规模无损扩展。

最终交出的成绩单是：单柜功率覆盖330kW 至 1MW，大模型吞吐达到146 万 tokens/s。一个 MW 级机柜就能撑起一条高产的 Token 产线，持续满速输出，不降频、不掉速。

但光有 GPU 还不够。浪潮信息同步推出了CPU 原生液冷整机柜服务器，基于液冷 OCM 架构，单柜集成384 颗CPU，支持4 万以上Agent 高并发运行，确保高负载下不掉频、不降速，让 Agent 的调度响应始终保持在低延迟状态。

GPU 整机柜负责高速生产 Token，CPU 整机柜负责高效调度 Agent ——两类算力底座在统一的原生液冷架构下协同工作。

从 Token 生成到 Agent 执行，全链路不再有散热瓶颈拖后腿，也不再出现某一端掉速导致整体排队的情况。原生液冷系统性地支撑起算力产线，让 Token 从生成到执行始终保持高效。

结语：硬件趋同，系统架构能力才是 Token 产能天花板

当下，AI 基础设施赛道硬件层面的差距正在收窄。各家厂商能采购到的核心器件几乎一样，芯片本身的性能天花板也越来越透明。你有的 GPU，别人也有；你用的 HBM，别人也能买到。单纯的硬件堆砌已经拉不开身位了。

当 GPU、HBM、网络芯片逐渐趋同，电力和空间成为 AI 基础设施的硬约束时，真正的分水岭在于：谁能把这些相同的组件组织成更高效率的算力 Token 产线。

同样的千卡规模算力，放进不同的系统里，最终的 Token 产出可能差出 30% 甚至更多。差距不在芯片本身，而在芯片与芯片之间如何通信、热量如何导出、供电如何分配、空间如何利用 …… 这些系统层面的设计选择，最终决定了每一颗芯片的性能有多少能被真正释放出来。

这就是系统架构能力的价值所在。

它是对算力转化上限的物理层定义：什么样的散热方案能让芯片持续满频运行？什么样的互连拓扑能让多卡协同不产生通信瓶颈？什么样的空间布局能在有限机柜里塞进最多的计算单元？

这些问题没有标准答案，考验的是在计算、散热、互连、供电之间权衡与协同的架构设计功底。

原生液冷，正是这种系统级创新的物理层体现。