
过去几年,AI 基础设施竞争的核心是 " 谁拥有更多 GPU"。但随着大模型进入智能体时代,行业关注点正在发生变化:未来 AI 竞争不仅取决于模型参数规模,更取决于持续推理、强化学习和后训练环节的成本。
英伟达正在通过下一代 AI 平台 Vera Rubin 回应这一趋势。该平台预计成为继 Hopper、Blackwell 之后的新一代 AI 计算架构,其核心目标是降低大型模型训练、推理以及强化学习循环中的单位计算成本。
AI 算力需求正在从预训练转向持续后训练
过去的大模型开发主要依赖 " 预训练 + 一次性微调 " 的模式。预训练负责让模型掌握语言能力,而后训练则进一步提升模型在代码生成、复杂推理、工具调用等任务中的表现。
但随着 AI Agent 快速发展,模型需要不断通过真实环境反馈进行强化学习。未来 AI 系统可能需要持续经历 " 执行任务—获得反馈—优化模型 " 的循环。
这意味着,算力需求正在从一次性的超大规模训练,转向长期、高频率的智能优化过程。英伟达认为,未来 AI 基础设施必须针对这一变化重新设计,而不是简单增加 GPU 数量。
七芯片架构:突破六芯片系统的局限
Vera Rubin 平台最初在 CES 2026 以六芯片系统亮相,随后在 2026 年 3 月的 GTC 大会上增加了第七个芯片——专为智能体解码阶段设计的低延迟推理加速器 NVIDIA Groq 3 LPX。完整的七芯片堆栈包括 Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机和 Groq 3 LPX。
在三星、SK 海力士和美光获得 HBM4 供应认证后,Vera Rubin 于 2026 年 6 月进入全面生产阶段。CoreWeave 成为首家在 2026 年 6 月 1 日验证完整 NVL72 机架的 AI 云服务提供商。
内存子系统是性能突破的核心。每个 Rubin GPU 集成高达 288 GB HBM4,聚合带宽 22 TB/s,直接解决了制约长上下文 Transformer 和 MoE 模型推理的 " 内存墙 " 问题。在机架级别,单个 Vera Rubin NVL72 配置整合了 72 个 GPU 和 36 个 CPU,拥有 220 万亿个晶体管、20.7 TB HBM4 内存和 1.6 PB/s 累计内存带宽,相比 Blackwell GB200 NVL72 分别增加 1.5 倍和 2.8 倍。
互连 Fabric 同样关键。NVLink 6 使 NVL72 机架内所有 GPU 共享一致内存;ConnectX-9 SuperNIC 处理扩展连接;BlueField-4 DPU 管理数据与安全;Spectrum-6 以太网交换机利用硅光子技术,能效和正常运行时间据称提升 5 倍。Vera CPU 提供 1.2 TB/s 带宽支持 KV 缓存管理,消除了曾迫使客户过度配置 GPU 的数据移动瓶颈。
基准测试方面,Phoronix 在 2026 年 5 月的评论中指出,Vera CPU 在 Linux 工作负载上与 Intel Xeon 和 AMD EPYC 具有竞争力。后训练基础设施公司 Prime Intellect 发现,在 RL 沙盒工作负载上,Vera CPU 平均每 CPU 吞吐量比替代 x86 架构高出 30%。
Dynamo 1.0:解耦预填充与解码的关键
硬件增益需配合软件层才能释放全部效率。NVIDIA Dynamo 1.0 于 2026 年 3 月在 GTC 正式商用,其核心在于将 LLM 推理的两个阶段解耦。
预填充阶段计算密集,可并行化处理;解码阶段内存密集,受限于权重加载速度。Dynamo 将这两个阶段分离到专用工作池,并通过 NIXL KV 缓存传输层在池间移动键值张量。这使得每个池能独立调整大小和优化,对于长上下文智能体工作负载,可直接减少冗余计算。
Dynamo 1.0 充当 AI 工厂的分布式操作系统,路由工作、管理 KV 缓存并应用智能调度。在 Blackwell GPU 上运行 DeepSeek R1 的基准测试显示,与非解耦服务相比,Dynamo 将推理性能提高了多达 7 倍。配合 NeMo 开源库,英伟达将后训练从定制研究代码转变为可重复的基础设施。
AI 竞争从 " 每令牌成本 " 到 " 每美元智能 " 时代
英伟达引入了 " 每美元智能 " 这一新指标,位于 " 每令牌成本 " 之上。前者衡量构建并保持模型在服务环境中具备价值的成本,后者衡量运营产出。降低每令牌成本的基础设施,同时也降低了通过 RL 后训练构建模型智能点的成本,从而提高每个令牌的价值。
以 Nemotron 3 Ultra 为例,这款 5500 亿参数的开放 MoE 模型在 SWE-bench Verified 上得分 71.9%,在 Artificial Analysis Intelligence Index 上得分为 48 分,是美国制造开放权重模型中的最高分。生产部署方面,Perplexity 的 RL 后训练堆栈可在两秒内同步万亿参数模型权重,决定了持续后训练循环的经济可行性。Together AI 也已在其平台上提供后训练即服务,并计划集成 Vera Rubin。
英伟达面临 AMD、谷歌等竞争压力
竞争对手并未忽视英伟达的协同设计策略。AMD 的 Instinct MI400 系列采用 Helios 机架策略,将 MI400 GPU 与 EPYC Venice CPU 和 Pensando Vulcano NIC 集成。MI400 每 GPU 携带 432 GB HBM4 和 19.6 TB/s 带宽,内存容量高于 Vera Rubin,但带宽较低。行业分析表明,AMD MI400 大规模生产可能推迟至 2027 年第二季度,为 Vera Rubin 在 2026 年下半年留下了竞争窗口。
Google 的 Ironwood TPU v7 于 2026 年 4 月商用,专为推理优化,适合 JAX 原生工作负载。Amazon Trainium 和 Microsoft Maia 也在占据更多份额,预计 2026 年定制 ASIC 出货量年增长率约为 44%。英伟达的护城河在于,要重现 Vera Rubin 的效率增益,竞争对手需匹配完整的七芯片集成,否则将面临结构性效率差距。
部署时间表:谁现在拥有,谁需等待
GTC 新闻稿确认,AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 以及 CoreWeave、Lambda 等合作伙伴将在 2026 年下半年部署基于 Vera Rubin 的实例。微软计划在其 Fairwater AI 超级工厂站点部署 Vera Rubin NVL72 机架级系统。
对于大多数组织而言,广泛访问 Vera Rubin 实例 realistically 是 2027 年的事件。对于在现有 Blackwell 或 Hopper 容量上运行低于 700 亿参数模型的团队,等待 Rubin 接入的干扰可能不值得。Vera Rubin NVL72 博客提供了具体的带宽、GPU 缩减比率和基准分数,使得外部验证成为可能。这些数字能否在独立的生产规模测试中保持坚挺,将最终决定英伟达后训练经济声明的持久性。
AI 算力进入效率革命
如果说过去十年的 AI 竞争是 " 拥有更多算力 ",那么下一阶段的竞争将是 " 用更低成本创造更多智能 "。
Vera Rubin 代表了英伟达对于未来 AI 计算方向的判断:模型不会停止增长,但算力成本必须下降。
随着 AI Agent、强化学习和企业级 AI 应用快速发展,决定行业格局的,可能不再是谁拥有最大的模型,而是谁能够以最低成本持续提升模型能力。
【星途科讯 图文丨小林 首发于 ZAKER 科技,转载请注明出处】


