21 世纪经济报道记者 骆轶琪

" 如果很多人同时来问你（大模型）问题，你还能‘舌战群儒’、应付自如，这就是我们在算力层面追求的目标。" 接受 21 世纪经济报道记者专访时，中兴通讯产品规划首席科学家王卫斌用这样的比喻，描述了他眼中下一代 AI 基础设施的形态。

过去几年，大模型竞争更多围绕参数规模和 GPU 算力展开；但随着 Agent 快速普及，一个复杂任务往往需要调用数十甚至上百次模型，多个智能体协同执行也让 Token（词元）消耗持续攀升。AI 产业开始意识到，真正决定用户体验的，不再只是模型 " 能不能回答 "，而是能否以更低成本、更快速度持续输出 Token。

在王卫斌看来，这并非一次简单的产品迭代，而是 AI 基础设施竞争逻辑的一次转变：随着 Agent 推动 Token 经济快速发展，行业竞争正从单芯片创新走向系统工程创新，从追求算力规模走向追求 Token 效率。为此，国产厂商的集体选择是，采用多要素协同、开放互连的策略，超节点方案的推出就是其中的关键一环。

要让 AI 能 " 舌战群儒 "

今年正成为国产超节点方案集中面市的关键一年。可为什么偏偏是今年？在王卫斌看来，这是需求侧与供给侧共同驱动的必然。

在需求侧，这主要源于大模型架构的变化。王卫斌对记者分析，过去几年，大模型不断向万亿甚至更大参数规模演进，同时 MoE（混合专家）架构逐渐成为行业主流。相比传统稠密模型，MoE 模型虽然能够降低计算成本，却带来了更加频繁的数据交换需求。每一次 Token 生成，都需要不同 GPU 之间不断同步参数、交换数据，GPU 等待通信的时间越来越长；而 AI 训练和推理过程中也在广泛使用各类稀疏技术，对算力无疑提出更高要求。

这意味着，传统依靠 8 卡服务器不断横向扩容的方式，已经越来越难释放 GPU 全部的有效算力。

多位业内人士也向 21 世纪经济报道记者表示，在建设大规模智算集群过程中，即使部署了大量 GPU，由于跨节点通信效率不足，实际算力利用率仍存在较大提升空间。随着推理需求快速增长，行业竞争开始从 " 拥有多少 GPU"，逐渐转向 " 如何让 GPU 协同工作得更高效 "。

超节点正是在这一背景下成为新的基础设施形态。

所谓超节点，本质上是通过高速互连，把几十张甚至上百张 GPU 组织成为一个更大的统一计算单元，尽可能减少 GPU 之间的数据等待时间，提高显存利用效率和通信效率，从而提升整体算力输出。

王卫斌认为，相关解决方案经过前几年的积累，其产业链技术已经逐渐走向成熟。由此，需求与供给形成共振，也推动超节点从概念验证进入产业化阶段。

而今年 Agent 应用的快速发展，进一步放大了对 Token 的需求。过去，大模型多是完成几次对话式问答；如今，一个 Agent 完成复杂任务，往往需要自主规划、调用工具、多轮推理和反复执行。这意味着，一个任务背后消耗的 Token 数量成倍增长，Token 开始成为 AI 时代新的 " 生产资料 "。

王卫斌对记者指出，现在业内普遍开始讨论 "Token Budget（词元预算）"。一方面，当前 Token 成本依然较高；另一方面，由于 Agent 技术仍在快速演进，复杂任务执行过程中还会产生不少重复推理和冗余 Token 消耗，进一步推高了推理成本。

在他看来，未来 AI 基础设施竞争的核心，不只是拥有更多 GPU，而是如何提升 Token 生产效率。

" 我们更关注的是 Token 输出效率，比如每秒能生成多少 Token、首 Token 时延有多低，以及面对大量用户同时访问时，系统还能不能稳定、高效地响应。" 王卫斌还用了一个形象比喻：" 很多人同时来问你（大模型）问题，你还能‘舌战群儒’、应付自如，这就是我们在算力层面追求的目标。"

超节点正是降低 Token 成本的关键手段之一。

王卫斌认为，超节点通过把更多 CPU、GPU 整合成统一算力底座，能够更好满足内存密集型、通信密集型的推理需求，是降低 Token 整体拥有成本（TCO）的有效方式。

国产超节点的系统化较量

超节点概念最早由英伟达提出，发展至今，国内已经基于此思路进行了新的技术架构探索。

" 国外厂家最大的优势还是单芯片性能。" 谈及国产超节点与海外方案的发展差异时，王卫斌没有回避现实。在他看来，以英伟达为代表的海外超节点方案中，其 GPU 无论在先进制程、封装工艺，还是 HBM 高带宽存储等关键技术方面均保持领先优势，这也决定了国内外产品在单颗 GPU 的计算能力方面存在一定差距。

但在他看来，超节点的发展，本身就是为了突破单颗芯片能力的边界。"国内更多走的是多要素协同、开放互连的路线。" 王卫斌说，国产厂商正尝试通过 " 系统协同 "，采取例如增加单机柜内 GPU 数量、增强机柜间扩展能力、用高性能网络弥补互连不足等多重手段，提升系统性能。

这也与今年国产超节点的发展方向形成呼应。国内厂商展示的超节点方案，集体把创新重点放到互连架构、交换能力、散热设计以及工程化能力等层面。相比过去几年 AI 产业更多讨论 " 造芯片 "，如今产业开始进入 " 建系统 " 阶段。

例如在架构创新方面，无线缆方案就是一个重要方向。

" 英伟达早期发布的 NVL72 采用大量铜缆（Cable Tray）实现计算节点与交换节点的互连，这个方案成本比较高。在一个机柜中就有 5000 多根线缆，需要对应接插，不能插错；另外如果单根线缆出现问题，就会影响到整个系统的运行。" 一名算力产业资深人士如此对记者分析，这是国内不少厂商在探索无线缆方案的一个背景因素。

" 无线缆是中兴通讯 OEX 超节点架构一个最显著的特征。" 王卫斌告诉记者，其他特性还包括无背板、正交架构等。这些创新设计的核心目的，都是为了缩短信号传输路径、降低传输时延；同时，减少线缆本身也意味着可以进一步释放带宽能力，提升系统可靠性、降低后期维护成本。

这是以 TCO 为核心，而不只考虑超节点的性能、性价比、CapEx（资本开支），更多要考虑 OpEx（运营支出）。

王卫斌透露，这一设计源于公司多年在核心路由器领域的积累，得以更好地实现数据处理与数据交换的高效融合。

他还判断，无线缆不会只是个别企业的探索，而会逐渐成为行业共识。" 以英伟达为代表的海外厂商，其新一代超节点方案也已经开始取消 Cable Tray 方案，转向大背板的连接方式。" 他续称。

除了无线缆，互连方式创新也是关键趋势之一。

随着 GPU 规模不断扩大，铜缆传输距离和带宽能力逐渐逼近物理极限，越来越多厂商开始探索利用光互连代替传统电互连，希望进一步提升带宽、降低时延。

对此，王卫斌认为，相比铜缆，光纤具有更强的抗干扰能力，也能够支持更远距离的数据传输，因此随着超节点规模不断扩大，光互连的重要性将持续提升。例如业界探索的近封装光学（NPO）、共封装光学（CPO）以及未来芯片级光互连（OIO）都是核心方向，本质上都是希望不断缩短光模块与芯片之间的距离，提高整体效率。

" 这和无线缆方案其实异曲同工，核心是提高传输性能和可靠性。" 他进一步提到，现阶段光互连方案距离真正的大规模商用仍需一定时间。" 这些技术方向都正确，但技术成熟度还没有达到可以规模化商用的阶段。" 王卫斌表示，因此从产业落地角度看，当前无线缆架构依然是更加成熟、可规模部署的解决方案。

过去几年，AI 产业讨论最多的是 GPU 芯片；如今，随着推理成为主战场，决定 AI 效率的关键开始变成 GPU 之间如何协同工作。谁能够把越来越多的 GPU 组织成一个低时延、高带宽、高可靠性的整体，谁就更有机会在下一轮 AI 基础设施竞争中占据主动。

今年国产超节点的集中亮相，显示出国内 AI 产业竞争逻辑的一次进化——竞争焦点已经从 " 更强的芯片 "，逐步走向 " 更强的系统工程 "。而随着 Token 经济蓬勃发展，这场围绕算力组织效率展开的新竞争，或许才刚刚开始。

更多内容请下载 21 财经 APP