过去几年，AI 基础设施竞争的核心是 " 谁拥有更多 GPU"。但随着大模型进入智能体时代，行业关注点正在发生变化：未来 AI 竞争不仅取决于模型参数规模，更取决于持续推理、强化学习和后训练环节的成本。

英伟达正在通过下一代 AI 平台 Vera Rubin 回应这一趋势。该平台预计成为继 Hopper、Blackwell 之后的新一代 AI 计算架构，其核心目标是降低大型模型训练、推理以及强化学习循环中的单位计算成本。

AI 算力需求正在从预训练转向持续后训练

过去的大模型开发主要依赖 " 预训练 + 一次性微调 " 的模式。预训练负责让模型掌握语言能力，而后训练则进一步提升模型在代码生成、复杂推理、工具调用等任务中的表现。

但随着 AI Agent 快速发展，模型需要不断通过真实环境反馈进行强化学习。未来 AI 系统可能需要持续经历 " 执行任务—获得反馈—优化模型 " 的循环。

这意味着，算力需求正在从一次性的超大规模训练，转向长期、高频率的智能优化过程。英伟达认为，未来 AI 基础设施必须针对这一变化重新设计，而不是简单增加 GPU 数量。

七芯片架构：突破六芯片系统的局限

Vera Rubin 平台最初在 CES 2026 以六芯片系统亮相，随后在 2026 年 3 月的 GTC 大会上增加了第七个芯片——专为智能体解码阶段设计的低延迟推理加速器 NVIDIA Groq 3 LPX。完整的七芯片堆栈包括 Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机和 Groq 3 LPX。

在三星、SK 海力士和美光获得 HBM4 供应认证后，Vera Rubin 于 2026 年 6 月进入全面生产阶段。CoreWeave 成为首家在 2026 年 6 月 1 日验证完整 NVL72 机架的 AI 云服务提供商。

内存子系统是性能突破的核心。每个 Rubin GPU 集成高达 288 GB HBM4，聚合带宽 22 TB/s，直接解决了制约长上下文 Transformer 和 MoE 模型推理的 " 内存墙 " 问题。在机架级别，单个 Vera Rubin NVL72 配置整合了 72 个 GPU 和 36 个 CPU，拥有 220 万亿个晶体管、20.7 TB HBM4 内存和 1.6 PB/s 累计内存带宽，相比 Blackwell GB200 NVL72 分别增加 1.5 倍和 2.8 倍。

互连 Fabric 同样关键。NVLink 6 使 NVL72 机架内所有 GPU 共享一致内存；ConnectX-9 SuperNIC 处理扩展连接；BlueField-4 DPU 管理数据与安全；Spectrum-6 以太网交换机利用硅光子技术，能效和正常运行时间据称提升 5 倍。Vera CPU 提供 1.2 TB/s 带宽支持 KV 缓存管理，消除了曾迫使客户过度配置 GPU 的数据移动瓶颈。

基准测试方面，Phoronix 在 2026 年 5 月的评论中指出，Vera CPU 在 Linux 工作负载上与 Intel Xeon 和 AMD EPYC 具有竞争力。后训练基础设施公司 Prime Intellect 发现，在 RL 沙盒工作负载上，Vera CPU 平均每 CPU 吞吐量比替代 x86 架构高出 30%。

Dynamo 1.0：解耦预填充与解码的关键

硬件增益需配合软件层才能释放全部效率。NVIDIA Dynamo 1.0 于 2026 年 3 月在 GTC 正式商用，其核心在于将 LLM 推理的两个阶段解耦。

预填充阶段计算密集，可并行化处理；解码阶段内存密集，受限于权重加载速度。Dynamo 将这两个阶段分离到专用工作池，并通过 NIXL KV 缓存传输层在池间移动键值张量。这使得每个池能独立调整大小和优化，对于长上下文智能体工作负载，可直接减少冗余计算。

Dynamo 1.0 充当 AI 工厂的分布式操作系统，路由工作、管理 KV 缓存并应用智能调度。在 Blackwell GPU 上运行 DeepSeek R1 的基准测试显示，与非解耦服务相比，Dynamo 将推理性能提高了多达 7 倍。配合 NeMo 开源库，英伟达将后训练从定制研究代码转变为可重复的基础设施。

AI 竞争从 " 每令牌成本 " 到 " 每美元智能 " 时代

英伟达引入了 " 每美元智能 " 这一新指标，位于 " 每令牌成本 " 之上。前者衡量构建并保持模型在服务环境中具备价值的成本，后者衡量运营产出。降低每令牌成本的基础设施，同时也降低了通过 RL 后训练构建模型智能点的成本，从而提高每个令牌的价值。

以 Nemotron 3 Ultra 为例，这款 5500 亿参数的开放 MoE 模型在 SWE-bench Verified 上得分 71.9%，在 Artificial Analysis Intelligence Index 上得分为 48 分，是美国制造开放权重模型中的最高分。生产部署方面，Perplexity 的 RL 后训练堆栈可在两秒内同步万亿参数模型权重，决定了持续后训练循环的经济可行性。Together AI 也已在其平台上提供后训练即服务，并计划集成 Vera Rubin。

英伟达面临 AMD、谷歌等竞争压力

竞争对手并未忽视英伟达的协同设计策略。AMD 的 Instinct MI400 系列采用 Helios 机架策略，将 MI400 GPU 与 EPYC Venice CPU 和 Pensando Vulcano NIC 集成。MI400 每 GPU 携带 432 GB HBM4 和 19.6 TB/s 带宽，内存容量高于 Vera Rubin，但带宽较低。行业分析表明，AMD MI400 大规模生产可能推迟至 2027 年第二季度，为 Vera Rubin 在 2026 年下半年留下了竞争窗口。

Google 的 Ironwood TPU v7 于 2026 年 4 月商用，专为推理优化，适合 JAX 原生工作负载。Amazon Trainium 和 Microsoft Maia 也在占据更多份额，预计 2026 年定制 ASIC 出货量年增长率约为 44%。英伟达的护城河在于，要重现 Vera Rubin 的效率增益，竞争对手需匹配完整的七芯片集成，否则将面临结构性效率差距。

部署时间表：谁现在拥有，谁需等待

GTC 新闻稿确认，AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 以及 CoreWeave、Lambda 等合作伙伴将在 2026 年下半年部署基于 Vera Rubin 的实例。微软计划在其 Fairwater AI 超级工厂站点部署 Vera Rubin NVL72 机架级系统。

对于大多数组织而言，广泛访问 Vera Rubin 实例 realistically 是 2027 年的事件。对于在现有 Blackwell 或 Hopper 容量上运行低于 700 亿参数模型的团队，等待 Rubin 接入的干扰可能不值得。Vera Rubin NVL72 博客提供了具体的带宽、GPU 缩减比率和基准分数，使得外部验证成为可能。这些数字能否在独立的生产规模测试中保持坚挺，将最终决定英伟达后训练经济声明的持久性。

AI 算力进入效率革命

如果说过去十年的 AI 竞争是 " 拥有更多算力 "，那么下一阶段的竞争将是 " 用更低成本创造更多智能 "。

Vera Rubin 代表了英伟达对于未来 AI 计算方向的判断：模型不会停止增长，但算力成本必须下降。

随着 AI Agent、强化学习和企业级 AI 应用快速发展，决定行业格局的，可能不再是谁拥有最大的模型，而是谁能够以最低成本持续提升模型能力。

【星途科讯 图文丨小林 首发于 ZAKER 科技，转载请注明出处】