刘劲 段磊 杨燕 / 文

过去三年，中国大模型进步迅速，却始终未能真正站上全球前沿。EpochAI 的能力指数显示，自 2023 年以来，每一个处于前沿的模型均出自美国，中国模型平均落后约 7 个月，最短 4 个月，最长 14 个月。

与此同时，差距正在持续收窄。斯坦福大学《2026 年 AI 指数报告》显示，中美最佳模型的性能差距已由 2023 年 5 月的三成以上，缩小至 2026 年 3 月的约 2.7%。DeepSeek-R1 在 2025 年初一度追平美国最强模型，但很快又被拉开距离。

差距不断缩小，为何始终无法反超？根本原因在于训练算力。

据非营利 AI 研究机构 EpochAI 估算，DeepSeek-R1 的训练计算量约为 4 × 1024 次浮点运算，Qwen3-Max 约为 1.5 × 1025 次；同期美国的 GPT-5 约为 6.6 × 1025 次，Grok 4 约为 5 × 1026 次，高出一个数量级。

在算力受限的条件下，中国大模型走出了一条 " 追赶加提效 " 的道路。DeepSeek-V3 仅用 2048 张 H800 完成预训练，依靠混合专家架构和 8 位精度训练，将正式训练的算力成本压缩至约 560 万美元（不含前期研发与试验）。同一时期，Meta 训练 Llama 3.1 405B 动用了约 1.6 万张 H100。

然而，提效存在天花板。中国团队的效率创新，美国实验室很快就能吸收，再叠加十倍算力，差距随即重新拉开。更重要的是，效率提升不会减少算力需求，反而会扩大需求。正如 19 世纪蒸汽机效率大幅提高后，英国的煤炭消耗不降反升，即所谓的 " 杰文斯悖论 "。效率越高，同样的投入能训练出越强的模型，各方追加算力的意愿也就越强。

只要训练算力的差距依然存在，中国大模型就难以跳出 " 追近、再被拉开 " 的循环。

AI 算力分为训练和推理两类。尽管推理正成为算力需求的主体，但训练决定了能否自主创造和改进前沿模型。美国芯片出口管制瞄准的正是训练所需的高端芯片和互联能力。本文试图回答三个问题：训练算力的需求从何而来？供给的核心是什么？中国的瓶颈在哪里，又该如何突破？

规模定律：模型决定训练算力的需求

大模型为什么越做越大？答案是规模定律（Scaling Law）。

规模定律并非理论推导，而是在实践中反复观察到的经验规律：模型的预测误差随参数量、数据量和计算量的增加，按幂律稳定下降。这意味着，投入多少数据和算力、换来多大的能力提升，可以事先估算。正因为投资回报可以预期，科技巨头才敢于押注千亿美元。

一次训练需要多少计算？若把模型参数想象成千亿个旋钮，训练就是用海量数据反复调试，为每个旋钮找到合适的位置。业界的经验公式是：C ≈ 6 × N × D。其中，C 为总计算量，N 为参数量，D 为训练所用的 Token（词元）数。系数 6 源于每处理一个 Token，每个参数在前向计算中需做 2 次浮点运算，在反向传播中需做约 4 次。

以 Meta 公开的 Llama 3.1 405B 为例，4050 亿参数、约 15.6 万亿 Token，计算量约为 3.8 × 1025 次。若用一张 H100 按峰值持续计算，需要约 1200 年。而前沿模型的计算量仍在快速膨胀：EpochAI 估算，OpenAI 的 GPT-3（2020 年）约为 3 × 1023 次，GPT-4（2023 年）约为 2 × 1025 次，GPT-4.5（2025 年）约为 4 × 1026 次，2026 年 9 月发布的 GPT-6 Astra 已达 1027 量级。

短短 6 年间，前沿模型的训练计算量增长了 3000 倍以上。

训练算力的供给：算、存、连、管、供

一、从一张卡到 " 一台机器 "

训练的计算绝大部分是矩阵乘加，同一种运算在海量数据上重复进行，天然适合切分到成千上万张 GPU 上并行完成。于是，总计算量可以拆解为另一个公式：C ≈ P × G × u × T，即单卡峰值算力（P）、卡数（G）、有效利用率（u）与训练时间（T）的乘积。

这个公式把需求问题转化成了供给问题。计算量 C 由模型决定，训练时间 T 由竞争决定，两者相除，就是训练期间必须同时在线的有效算力。P 取决于能获得什么芯片，G 和 u 则取决于能把多少张卡组织成一个系统、系统运转得有多好。

训练时间为何不能拉长？从技术上看，芯片一年一代，训练一两年的模型上线时，对手可能已用新一代芯片以更低的成本完成同类训练，技术路线也可能已被新架构淘汰。从经济上看，最前沿的模型享有阶段性垄断和较高利润，可以投入下一轮训练，形成正向循环；而追赶者刚追上上一代，领先者一旦降价，后来者的投入便难以收回。但周期也无法无限压缩：卡数过多，通信开销急剧膨胀，系统稳定性随之下降。近两三年，前沿模型的正式训练大多在三到四个月内完成。

据此倒推：Llama 3.1 405B 若要在三个月内训完，按四成利用率计算需要约 1.2 万张 H100，Meta 实际使用了约 1.6 万张。GPT-6 Astra 这样 1027 量级的模型，若用 GB200（单卡 16 位峰值约 2.5 PFLOPS）、四成利用率、四个月训完，需要约 10 万张卡，与其实际规模相符。计算量若再增长十倍，就需要百万卡级的集群。规模，是期限倒逼出来的。

但并行不是免费的。每完成一步计算，所有 GPU 都必须交换中间结果、同步参数，才能进入下一步，卡数越多，交换的数据越多。前沿模型已大到任何一张卡都装不下：一个 4000 亿参数的模型，仅参数、梯度和优化器状态就需要数 TB 显存，而一张 H100 只有 80GB，模型本身也须切分到上百张卡上。这决定了训练集群不是一堆各自工作的芯片，而是必须通过高速互联连成 " 一台机器 "。

二、五大要素：训练数据中心为何截然不同

打个比方，传统数据中心像一栋写字楼，成千上万个互不相关的小任务共享通用服务器，一台机器出故障只影响它自己。训练数据中心则像一条生产线，几万张卡在几个月里只做一件事，任何一处停顿，全线都要等待。这条生产线由算、存、连、管、供五类要素构成，任何一项成为短板，整台机器都无法高效运转。

" 算 " 是能力的起点。传统数据中心以通用 CPU 为核心，训练服务器的典型配置则是 8 块高性能 GPU。据集邦咨询（TrendForce）和行业独立研究机构 SemiAnalysis 测算，加速卡按售价计占训练服务器成本的七到八成。

" 存 " 的关键变化是高带宽显存（HBM）。GPU 对数据吞吐的要求比 CPU 高一个数量级，若用传统内存，GPU 大部分时间都在空等数据。HBM 把多层内存芯片垂直堆叠，与 GPU 封装在一起，通过上千条通道并行传输。HBM 昂贵且难以制造，全球只有 SK 海力士、三星和美光三家能够大规模供货。以 B200 为例，HBM 约值 3000 美元，约占整卡物料成本的一半，但整卡售价在 3 万至 4 万美元之间，差额大部分是英伟达的毛利。

" 连 " 从配套变成了命脉。训练网络须同时满足三项要求：带宽要够，否则数据送不到；时延要低，不然最快的卡也要等最慢的卡；可靠性要高，否则一次链路抖动就可能让整个训练停下来。

集群因此按通信密度分层组织：纵向扩展（Scale-up）用专用高速互联把通信最密集的一组卡连成整体，例如英伟达的 GB200 NVL72 把一个机柜的 72 张卡做成一个互联域；横向扩展（Scale-out）再用 InfiniBand（高性能、低延迟的网络通信架构）或以太网把这些单元连成集群。卡数越多，网络层级越多，交换芯片、网卡和光模块随之超线性增长。

博通首席执行官预计，当集群走向 50 万到 100 万卡时，网络芯片将占 AI 芯片支出的 15% 至 20%。而在传统数据中心，交换机只占资本开支的个位数百分比。

" 管 " 是让上万张卡像一台机器那样运转的集群软件，包括调度、故障检测和断点续训，它直接决定有效利用率 u。

u 由两部分相乘：一是算力真正用于模型计算的比例，即模型算力利用率（MFU）；二是有效训练时间的占比。Meta 披露，Llama 3.1 405B 训练的 MFU 为 38% 至 43%，其余都耗在通信、等待和系统开销上；训练中平均约 3 小时意外中断一次，依靠快速恢复，有效训练时间约九成。规模越大，利用率越难守住：卡数从 8192 张翻倍到 16384 张，MFU 从 43% 降至 41%；按同样的故障率推算，扩大到十万张卡，平均约半小时就会中断一次。

" 供 " 即电力与散热。传统机柜功率多为几千瓦到十几千瓦，训练机柜可达 100 千瓦以上，超出风冷能力，必须采用液冷。训练 GPT-6 Astra 的 10 万张 GB200，连同配套设施功耗超过 2 亿瓦。训练又要求集群在物理上紧凑，前沿训练园区因此走向吉瓦级：一个 1 吉瓦的 AI 数据中心前期投资约 380 亿美元，功率规模相当于一座大型核电机组。

五项要素放在一起算账：1000 台通用服务器连同机房投资约为 2000 万美元，网络只是零头；换成 1000 台 8 卡 H100 训练服务器，总功率约 11 兆瓦，是前者的十几倍，合计投资约为 4.6 亿美元，是前者的 20 多倍。增量中五成在加速卡，一成在网络，三成在机房、供电与制冷。同样数量的服务器，一边是写字楼里的办公设备，一边是自带变电站的重型工厂。

三、供给瓶颈：谁最稀缺，谁掌握定价权

五项要素的扩产速度并不相同。先进制程与封装集中在台积电，HBM 集中在三家存储厂，电力受制于电网建设周期，这三项扩产都以年计；需求却按模型代际变化，约一年一代。供需节奏错配，稀缺环节便获得定价权，2026 年一季度服务器 DRAM 合同价单季上涨约九成即是一例。

价格是周期性的，标准制定权才是结构性的。HBM 的规格围绕加速器的需求反推，英伟达直接向三家存储厂采购，再交由台积电封装；光模块、液冷等厂商也围绕其机架参考架构设计产品。GPU 厂商既是这台机器的引擎，也是规则的制定者。

英伟达为什么是权力中心

从买方看，训练的试错成本极高。系统一旦不稳定，训练周期就会拉长，严重时甚至失败，数月时间和上亿美元的投入随之付诸东流。理性选择是只采用经过大规模验证的方案，为确定性支付溢价。

Meta 把 Llama 3.1 405B 的线上推理交给 AMD，训练仍使用英伟达，原因在于推理可以先拿部分流量试验，训练则试不起。用的人越多，方案验证越充分，下一个买家越不敢更换，这是典型的网络效应。

从卖方看，英伟达的优势恰好覆盖了公式中供应商能够左右的三个变量：P、G 和 u。单卡算力 P 一年一代，持续领先，但竞争对手的纸面参数可以追平；真正难以追赶的是 G 和 u，即能否把数万张卡连成一台机器并稳定运行数月，以及运行时有多少算力真正用于计算。

英伟达 2020 年收购 Mellanox（迈络思）获得 InfiniBand，把纵向的 NVLink（英伟达开发的高速互连总线及通信协议）与横向的集群网络都握在手中；通信库和算子库则建立在近 20 年的 CUDA 生态之上。规模越大，利用率越难维持，英伟达的统治力正是来自这套覆盖芯片、网络与软件的系统，成建制地抵御规模带来的效率衰减。

因此，训练市场呈现一家主导、少数追赶的格局，真正的追赶者都是整套体系。谷歌能用自研 TPU 训练 Gemini，是因为它同时拥有芯片、软件、数据中心和模型研发。训练侧的竞争不奖励单项冠军，只奖励能把几万张卡变成一张卡、并让极度厌恶风险的客户放心使用的厂商。

中国训练算力的现状：五项要素，四项有短板

全球大模型的训练主要在美国和中国。美国训练算力供给的突出特征是资本充裕。主要云厂商的资本开支从 2021 年的约 1310 亿美元增至 2025 年的约 4160 亿美元。按 EpochAI 的统计，截至 2025 年 5 月，美国约占全球 GPU 集群算力的四分之三，中国约占 15%。

在美国，芯片和 HBM 虽然紧张，但市场化扩产机制运转正常，最硬的约束反而是电力：数据中心用电占全美用电量的比例 2023 年为 4.4%，预计 2028 年将升至 6.7% 至 12%。

我们用同一框架审视中国的算力供给。

" 算 "：高端 GPU 无法购买，自研的瓶颈不在设计，而在先进制程，制程背后是光刻机等设备的管制。华为面向训练的昇腾 950DT，8 位精度算力约 1 PFLOPS，约为英伟达 B200 的两成多；下一代昇腾 960DT 预计 2027 年一季度就绪，单卡约 2 PFLOPS，仍不及 B200 的一半。

" 存 "：海外 HBM 采购渠道基本被切断，国产唯一明确的途径是长鑫存储。据报道，长鑫存储已小规模试产 HBM3E，比国际三强落后一代，上一代 HBM3 的综合良率估计仅为 25% 左右。

" 连 "：长短并存。光模块由中国厂商主导，但高速 DSP（数字信号处理器）芯片和高端激光器仍依赖进口；交换芯片华为已做到 51.2T，博通已达 102.4T。

" 管 "：CUDA 积累了近 20 年，国产平台的算子库、通信库和工具链仍需补齐，但差距可以追赶。

" 供 "：这是中国最强的一项。2025 年中国新增发电装机 5.4 亿千瓦，是美国同年的十倍。

结果是：国产算力目前主要用于推理，尚无国际前沿水平的模型在国产体系上完成预训练。

用前文的公式倒推：同样一个 1027 量级的模型，同样在四个月内训完，由于单卡算力约为 B200 的五分之一，采用昇腾 950 级芯片所需的卡数约为英伟达方案的四到五倍，即四五十万张。卡数越多，利用率越难维持，所需的 HBM 和互联器件也成倍增加。这正是中国训练算力瓶颈的实质。

近年各地兴建的大量智算中心也难以填补这一缺口：它们规模有限、芯片型号各异，即使存在闲置算力，也拼不成 " 一台机器 "。

如何突破训练算力的瓶颈

短期的瓶颈是单卡算力不足、HBM 紧缺和软件生态不成熟。应对之策至少有三。

其一，以系统弥补单卡。单卡差距短期内难以追平，就在卡数 G 和利用率 u 上着力，以更多卡、更多电和更强的工程组织能力弥补单卡的不足。

这正是华为的路径：超节点把紧密互联的范围扩展到跨机柜的 4096 张卡，灵衢总线让数千张卡在软件层面更像一台机器，近封装光学（NPO）降低互联的功耗与故障率。

代价是能耗。SemiAnalysis 测算，华为 CloudMatrix 384 超节点单位算力耗电是英伟达 GB200 NVL72 的两倍多。但电费仅占吉瓦级数据中心年化总成本的 7% 左右，耗电翻倍只令总成本增加一成左右，电力恰是中国最充裕的资源。

其二，在模型层面提效。混合专家架构只激活部分参数，可大幅降低计算量；8 位低精度训练使芯片峰值算力翻倍、通信量减半，等效于提升单卡性能。DeepSeek 已证明这条路径可行。

其三，用好进口芯片。今年中国对英伟达 H200 的进口持审慎态度，据报道获批数量可能不到企业申请量的一半。顾虑可以理解：进口芯片过多，国产芯片将失去验证机会。但前沿竞争存在时间窗口，错过一代，追赶成本成倍上升。

与其一味强调国产替代，不如以安全可靠为标准，两条腿走路：前沿训练在许可范围内用好进口芯片，抢占时间；国产芯片先在推理和中等规模训练中放量，逐步向前沿推进。资源则应集中于少数大型训练集群，避免分散投入。

中期的瓶颈在于量产。没有 EUV 光刻机，只能依靠存量有限的 DUV 光刻机以多重曝光逼近先进制程，设备保有量和良率决定了昇腾的产量；一颗昇腾 960 估计需配 8 到 12 块 HBM，卡数放大，HBM 需求同步放大。

突破方向有三：一是国产 GPU 和 HBM 的良率与产能爬坡；二是补齐高速 DSP 芯片、激光器和交换芯片等互联短板；三是推动软件生态从 " 能用 " 走向 " 好用 "。昇腾软件栈 CANN 于 2025 年 8 月宣布全面开源，DeepSeek 也开源了面向昇腾的训练组件。开源技术本质上是反垄断的，任何一方都无法借此 " 卡脖子 "。

中期还有一个市场难以自行解决的问题：谁来做第一个吃螃蟹的人？

训练买家极度厌恶风险，无人愿意率先在新平台上押上数月时间和上亿美元；无人使用，平台就得不到验证，越得不到验证，越无人使用。而首个吃螃蟹者的经验，全行业都能受益。

此时，政府需要介入，但方式至关重要。政府不必亲自组织团队、分配资源，可以提出需求、设立奖励：谁能在国产算力体系上完成一次前沿规模的训练，即给予奖励或有保障的采购合同。做不成，奖励不发，政府不承担财务风险；做成了，每一分钱都换来实在的成果。具体如何实现，交给最了解情况的市场。

中期还须警惕风险过度集中。目前，中国能交付整套前沿训练体系的只有华为一家，它事实上扮演着 " 中国英伟达 " 的角色。枢纽立住，生态才能运转；但路线一旦偏差，便无第二套体系兜底。培育第二套训练体系、推动接口与软件兼容，是中期的重要任务。

长期的决定性因素是以光刻机为首的核心设备，这是先进制程芯片和 HBM 共同的瓶颈。国产光刻机以及刻蚀、沉积、量测等设备的攻关，才是真正的底层战场。

同时，我们也应探索绕开制程限制的新路径，例如华为提出的逻辑折叠，但据其披露要到 2030 年前后才能用于训练芯片。

设备攻关，资金固然重要，人才更为关键。光刻机牵涉光学、精密机械、材料、控制等众多学科，顶尖人才的培养以十年计，急不得，但必须现在着手。

总之，短期靠系统工程和模型提效，中期靠产能爬坡和首批大规模验证，长期靠核心设备与人才。三个阶段争夺的是同一件事：能否依靠自身力量，把几万张卡变成一台机器。

提效让我们追得更近，算力才能让我们走到前面。规模定律仍在生效，前沿训练的门槛每年成倍抬高。这是一场长跑，比拼的是持续投入的耐力与方向。

（刘劲系长江商学院会计与金融学教授、投资研究部主任，段磊系深之度咨询合伙人，杨燕系深之度咨询高级研究员）

免责声明：本文观点仅代表作者本人，供参考、交流，不构成任何建议。