英伟达正悄然完成一次战略身份转变,从开源 AI 生态的 " 支持者 " 升级为亲身下场的 " 构建者 "。
华尔街见闻提及,8 月 11 日,据 The Information 报道,英伟达希望下一代 Nemotron 4 跻身全球最强开放模型之列。
参与项目的员工预计,最大版本至少拥有 1 万亿个总参数,约为 6 月发布的 Nemotron 3 Ultra 的两倍。
模型的预训练数据和架构已有初步决定,但最终规格、发布时间尚未确定,最关键的一轮训练也还没有开始。所谓 " 万亿参数 Nemotron 4",目前仍是一项研发计划,不能当作已经发布的产品。
这场投入很容易被理解成英伟达也想成为 OpenAI 或者 Anthropic,但实际上英伟达无须靠 Nemotron 的 API 收费收回成本。
只要免费模型让更多企业、政府和创业公司开始训练、微调和部署 AI,英伟达便能在 GPU、NVLink 网络、整机系统、CUDA 以及企业软件上逐层收费。
Nemotron 4 更像一台算力需求发生器:模型免费,使用模型所需的计算并不免费。
英伟达需要把买家从少数巨头扩散到整个市场
眼下的 GPU 繁荣异常集中。
英伟达截至 4 月 26 日的 10-Q 显示,三个直接客户分别贡献当季收入的 21%、17% 和 16%,合计 54%;公司还披露,一家 AI 研究与部署企业通过云服务间接贡献了 " 有意义的收入 "。
这类直接客户可能是整机商、分销商或云厂,不能简单等同于三家最终用户,但客户集中风险已经写在账面上。
更麻烦的是,大客户同时在造英伟达的替代品:
亚马逊 AWS 用 Trainium 承接 Anthropic 的训练和推理,官方称已有接近 100 万颗 Trainium 2 服务 Claude;
谷歌的 Ironwood TPU 面向大规模训练和推理;
AMD 也用 MI350 和 ROCm 争夺开放模型负载。
闭源模型把需求集中在几家实验室和云平台,它们规模巨大、议价能力强,还有动力把成熟而稳定的工作负载迁往自研芯片。
对英伟达而言,最安全的市场形态并非某一家模型公司统治 AI,而是成千上万个互不相同的模型和应用同时生长。需求越分散,客户越难用一款定制 ASIC 覆盖所有架构;工作负载变化越快,通用 GPU 和 CUDA 成熟的软件生态越占便宜。
这也解释了英伟达为什么不能只在口头上支持开放生态。一个远落后于闭源模型的开放模型,只能吸引研究试验,很难让银行、制造商、政府部门为生产集群开预算。
模型必须足够强,强到企业愿意用自己的数据继续训练,强到客户愿意把高频工作流交给它,开放模型才会从开发者下载量变成机房里的 GPU 利用率。
万亿参数的作用在这里。它不是一枚证明智能水平的奖章,而是英伟达争取跨过企业可用门槛的一种手段。
现有 Nemotron 3 Ultra 拥有 5500 亿个总参数、每个 token 激活 550 亿参数,支持最长 100 万 token 上下文。
英伟达公布的测试显示,它在部分任务上接近其他头部开放模型,推理吞吐量则明显更高。但 The Information 援引第三方榜单称,它仍落后于最强的中国开放模型,在全球综合模型中也远非第一梯队。
所以,参数规模只能说明野心,不能代替成绩。
稀疏 MoE 架构中,总参数与每次推理实际调用的参数相差很大,数据质量、训练 token、后训练、工具调用能力和推理系统共同决定最终效果。
Nemotron 4 若只有 "1 万亿 " 这个好看的数字,却没有进入真实任务的第一梯队,它很难改变任何采购决定。
一款免费模型,可以卖出一整座 AI 工厂
英伟达已经把转化路径铺好:
开放的 Nemotron 提供模型权重、数据和训练配方;
企业用 NeMo 做继续预训练、微调、强化学习和评测;
部署时再接入 NIM 推理微服务、TensorRT-LLM 和 CUDA;
规模扩大后,算力落到 DGX Cloud、公有云 GPU 或者企业自建的 HGX/DGX 集群。
GPU 之外,NVLink、InfiniBand 或 Spectrum-X 网络、CPU、DPU 和 NVIDIA AI Enterprise 订阅也进入账单。
这条路径已经出现早期样板。Palantir 把 Nemotron 带入美国政府的隔离网络,客户可以在本地基础设施上训练、保留模型权重并持续迭代,生产部署由 NVIDIA AI Enterprise 支持。
日本市场则更接近 " 主权 AI" 模板:研究机构和企业用 Nemotron 数据及 NeMo 训练日语模型,HGX B300 承担私有基础设施,Jetson 负责边缘部署。
闭源 API 进不了隔离网络,也很难满足数据驻留、模型所有权和本地审计要求。开放模型把这些原本不会发生在公共云 API 上的负载带进政府机房、企业数据中心、区域 AI 云和边缘设备。
对模型公司来说,这是一个较分散、较难收费的市场;对出售基础设施的英伟达来说,每多一个部署地点,就多了一处硬件和软件收入入口。
模型路由让这盘生意更大。The Information 报道英伟达在推出 Nemotron 3.5 Lightning 的同时,发布了免费的模型路由软件。路由器会把简单任务交给便宜的小模型,把少数困难任务交给大模型。
表面看,它在帮助客户少用昂贵算力;实际的赌注是,当单次任务成本降下来,企业会启动更多常驻智能体,让一次问答变成包含规划、搜索、工具调用、验证和返工的连续流程。
Gartner 预计,到 2030 年,万亿参数模型的推理成本会比 2025 年下降 90% 以上,但智能体每项任务消耗的 token 可能是普通聊天机器人的 5 至 30 倍;如果 token 用量增长快于单价下降,推理总支出仍会上升。
英伟达押注的并非 " 大模型越昂贵,GPU 卖得越多 ",而是 " 智能越便宜,使用量扩张得越快 "。Nemotron 同时覆盖轻量模型、旗舰模型和路由工具,正是在主动制造这种价格下降后的需求弹性。
做模型也是为了把下一代芯片提前做对
Nemotron 还有一层不直接体现在模型收入里的价值:它是英伟达自己的全栈压力测试。
芯片公司若只等客户模型定型,再去适配新的注意力机制、MoE 路由、长上下文和低精度格式,硬件迭代会永远慢半拍。
亲自训练前沿模型,工程团队能更早看到算力、显存、互联、数据吞吐和推理调度的瓶颈,再把这些发现写进下一代 GPU、NVLink 和软件库。
Nemotron 3 Ultra 已经带有很强的 " 硬件共设计 " 痕迹:模型使用混合 Mamba-Attention 与 MoE 架构,预训练采用为 Blackwell 设计的 NVFP4 格式,并通过多 token 预测提升生成速度。
英伟达称,量化后的版本可以在 4 张 B200 上部署。这样的模型既是产品,也是 Blackwell 低精度能力、显存体系和推理软件的演示负载。
开放之后,外部开发者又会替英伟达继续优化这套负载。
新的模型架构先在 CUDA、PyTorch、vLLM、SGLang 和 TensorRT-LLM 上跑通,优化回流到英伟达平台,后来者面对的就不再是一颗 GPU 的性能差距,而是一套已经被数千个项目打磨过的生产环境。
英伟达今年展示的案例中,Blackwell 运行 DeepSeek V4 的每 token 成本在一个月内最多下降到原来的五分之一;多项软件优化叠加,吞吐量最高可提升 20 倍。


