" 我们不能只是消费 AI,而是应该生产 AI。"
作者 | 陈骏达
编辑 | 心缘
芯东西 10 月 21 日报道,今日,英伟达 GTC 大会首次登陆德国柏林,英伟达创始人兼 CEO 黄仁勋(Jensen Huang)进行了一场信息量爆棚的主题演讲,系统介绍英伟达全栈 AI 工厂架构,发布DSX 全栈 AI 工厂参考架构与 DSX POD 计算集装箱,还一口气推出Nemotron 检索模型、Kumo 结构化数据预测模型等多款开源模型。
在黄仁勋看来,AI 绝非一般的软件技术,而是一个制造业——能源驱动计算机,计算机组成 AI 工厂,AI 工厂生产 token,token 来自模型,模型再集成进每一个应用," 我们不能只是消费 AI,而是应该生产 AI。"
围绕 AI 的高效生产,黄仁勋的演讲覆盖 AI 基础设施、企业智能体、开源模型、物理 AI 等核心战场,涉及五大重点:
1、Vera Rubin 平台:已实现全面量产,整机 100% 液冷,组装一个节点的耗时从 2 小时缩短到 5 分钟,72 颗 GPU 可互连成一整颗巨型 GPU。
2、DSX POD:把 7 个 Vera Rubin 机架连同线缆在工厂内预装成一个集装箱,运到现场即插即用,AI 工厂的部署时间从 4-5 个月压缩到约 1 个月。
3、OpenShell 安全智能体参考架构:让每个智能体在独立沙箱中运行,按系统调用粒度管控权限,一旦发现越权行为可毫秒级切断其与 AI 模型的连接。
4、开源模型与智能体工具包:帮智能体读懂企业文档和数据库的工具包 Agent Knowledge Foundation、负责检索的 Nemotron Retriever 模型系列、能预测业务走势的 Kumo 模型系列等。
5、Agile ONE SN 人形机器人参考设计:这款机器人计算硬件和软件出厂前预装完毕,开箱即可运行,大幅降低机器人研发门槛,机器人本体将于 2027 年初提供。
以下就是这场 GTC 大会的重磅发布与主题演讲干货:
01.
AI 工厂:把算力做成预制菜
投产只要 1 个月
黄仁勋系统地介绍了英伟达的全栈 AI 工厂架构,强调英伟达是唯一一家构建完整 AI 工厂的公司,涵盖设计、部署和运营所需的一切。
支撑英伟达 AI 工厂的硬件底座,是刚刚全面量产的 Vera Rubin 平台。黄仁勋现场对比了代际差异:Grace Blackwell 平台组装一个节点要 2 小时,线缆遍布,仅实现 80% 液冷;而 Vera Rubin 平台实现 100% 液冷,组装一个节点不到 5 分钟。
NVLink 交换托盘把 72 颗 GPU 连成一整颗巨型 GPU,而旁边的 Vera CPU 每时钟周期可执行 8 条指令,搭载全球首个 LPDDR 内存子系统,片上互联为全球最快,专为智能体会话的启动与处理设计。
Spectrum-X 则是全球首个共封装光学(CPO)以太网交换机。光可以通过英伟达与台积电联合发明的 COUPE 工艺直接接入芯片,无需经过 PCB 和独立光模块。这一方案提供 512 端口,单端口速率达 200Gb/s,已全面量产。
有了技术,怎样更快地把 AI 工厂部署到全球各地?对此,英伟达打造了全栈 AI 工厂参考架构 DSX,覆盖计算、网络、存储、软件、电力和冷却,从设计到运营作为一体协同优化。
DSX 的第一步发生在动工之前:整座工厂先在数字孪生里完成性能、功耗、用水和规模的虚拟验证。
针对电力,MaxLPS 端到端控制回路可以动态把电力引导至与负载需求匹配的地方,同样的 AI 产出少用 30% 的电力。DSX Flex 则可以灵活调节需求,提升电网可靠性,在电网需求激增时减少耗电,同时保持 AI 运行。
冷却方面,Vera Rubin 系统采用了闭式循环液冷,合适气候下,冷却液温度可达45 ° C,实现高温液冷。通过室外干冷器,这套冷却系统可以直接向空气释放热量,不蒸发一滴水,在 2GW 规模下,每天节水 5400 万升,相当于 18 万户家庭的日用水量。
为进一步提升建设效率,英伟达发布了DSX POD,这是一种已完成组装、测试、管路预装、预构建和预验证的算力集装箱,也是 AI 工厂的基础构建单元,设计目标是加快欧洲基础设施部署,大幅缩短从部署到生成首个 token 的时间。
集装箱内部包含 7 个 NVIDIA Vera Rubin NVL72 液冷机架、1000 万个零部件,重约 28000 公斤,大致相当于 20 辆城市公交车,可通过公路运往欧洲各地。
机架之间由 20 公里 NVLink 铜互连和 3500 根线缆相连,另有 17 公里 Spectrum-X 横向扩展网络,全部在工厂内完成安装、组装和测试。
冷却与电力方面,DSX POD 用干冷器替代传统蒸发冷却,场地就绪后以 800V 直流为机架供电。
集装箱运抵现场后只需彼此连接,完成验证和最终老化测试。黄仁勋在演讲中说,采用这一方案后,建设方可以将算力从到场到投产的时间,从 4-5 个月压缩到约 1 个月。
另据英伟达新闻稿披露,借助 DSX POD 计算单元,合作伙伴可将 AI 基础设施的部署时间从 6 个月缩短至最短 14 天。
黄仁勋算了一笔账:一座 1GW 数据中心投资 500 亿美元,年收入约 400 亿美元,延迟 3 个月投产就意味着 100 亿美元营收损失。如果能将这一过程压缩,闲置的算力和资本开支随之大幅减少。黄仁勋称:" 这是世界供应链的彻底转型,将改变人们安装和建设数据中心的方式。"
02.
企业 AI:四大维度给 Agent 打地基
新自研模型系列亮相
如今,智能体已经是 AI 领域最炙手可热的赛道之一,并且正在进入越来越多的企业级场景。
黄仁勋把智能体拆成五个要素:模型、执行框架(Harness)、沙箱、知识和工具,而英伟达在其中的四个层面都提供了方案。
1、沙箱:给智能体装上安全约束
在谈怎么用好智能体之前,黄仁勋先谈了安全问题。他认为,业内阻止智能体滥用权限的方式,主要是通过 " 客客气气地求它 ",也就是通过提示词对智能体进行叮嘱,但 " 安全不应该是一种愿望,而是技术和工程。"
为此,英伟达打造了 OpenShell 安全智能体参考架构:企业为每个智能体编写策略,OpenShell 在系统调用粒度上强制执行,覆盖文件访问和网络连接。
OpenShell 中,每个智能体运行在独立沙箱中,外部的 Harness 可以由 OpenShell 统一收纳。策略变更则需要经形式化验证对照权限上限,智能体不会获得超出预期的访问权。
该架构在 Vera Rubin 上运行、搭载 Vera CPU,并通过 BlueField-4 提供硬件隔离的安全监控:智能体的推理流量会经过 BlueField-4 上的 Sentry 安全软件架构,一旦智能体计划越权,Sentry 会立即更新策略,切断其与模型的连接并将其隔离。
2、模型:闭源、开源、定制,一个都不能少
谈完安全,黄仁勋把话题转向模型。他判断:未来企业不会只用一个模型跑所有东西,最好的模型不管闭源、开源还是定制,统统都要用;而当工作涉及太多专有知识和独门手艺时,企业会想持续增强属于自己的智能,未来每家公司都会同时使用闭源模型和定制化的开源模型。
英伟达在开源模型上已经投入了十年,并且不仅是开放权重,还包括配套数据和完整复现脚本。这可以让使用者知道模型的出处和权重分布。
这些模型覆盖多个领域:Nemotron 是语言模型,Cosmos 是世界基础模型,GR00T 面向机器人领域,Alpamayo 面向自动驾驶,此外还有量子计算模型 Ising 和 Earth-2 物理 AI 模型。
黄仁勋说道:" 这些开源模型未必个个都是前沿中的前沿,语言模型尤其如此。但借助定制化和生态伙伴,企业完全可以把它们打造成前沿模型,进而把自己的专有数据变成主权智能。"
现场他举了一连串实证:AI21 帮助客户把 Nemotron 微调后超出了前沿能力;Base10 帮 CodeRabbit 用自有数据后训练 Nemotron,达到前沿水平;Trajectory 与 Harvey 用 Nemotron 后训练出自己的前沿能力;Scale AI 与 Skydance 做着同样的事。
黄仁勋称,从一个像 Nemotron 这样较好的开源模型出发,用自己的数据做后训练,针对你的场景达到超级智能,这是非常理性的做法。
3、知识:把企业知识喂给模型
模型有了,接下来是让智能体接通企业的知识。英伟达推出了 Agent Knowledge Foundation,一套用于检索企业数据的模型组合与软件库。
检索链路由三款 Nemotron Retriever 模型组成:文档解析 Nemotron Parse 负责文档解析,可处理 PDF 等非结构化文档;文本嵌入模型 Nemotron Embed 把查询与向量数据库中的知识关联起来;检索重排序模型 Nemotron Re-rank 在多源召回结果中按相关度重排,找出最贴切的答案。
针对结构化数据,英伟达此次发布了结构化数据预测模型系列 Kumo,让企业数据库也能预测接下来会发生什么。该模型系列共有四款:面向表格数据的 Kumo Tabular、面向关系型数据的 Kumo Relational、面向时间序列的 Kumo Time Series 和面向预测任务的 Kumo Forecast。
4、工具:CUDA-X 已成皇冠上的明珠
在工具层,英伟达的 CUDA-X 库已经被用于支撑科学发现、工程、研究、设计与创意艺术等多个领域,黄仁勋说这些库是英伟达皇冠上的明珠。
黄仁勋强调,智能体时代非但不会终结 SaaS 工具软件,反而会让工具公司迎来史上最多的用户,每一家工具公司都有机会变成 AI 公司、变成智能体公司,Cadence、CrowdStrike、达索系统、IQVIA 等都已加入智能体的开发行列。
利用 CUDA-X,同一台计算机可以运行流体动力学、粒子物理、量子化学、数据处理、光线追踪等所有工具,较 CPU 原生运行提速一到两个数量级。而在这些不同的行业,使用到的组件都类似:开放模型、CUDA-X 加速工具、OpenShell 安全运行时,由英伟达智能体工具包(Agent Toolkit)整合在一起。
03.
物理 AI:联手 Agile 推出机器人参考设计
物理 AI 是 AI 的下一波浪潮,黄仁勋称,其中量级最大、落地最近的物理 AI 应用是汽车,而下一个重大产业,是人形机器人。
机器人的研发难点在于任务多样、形态定制化,行业面临碎片化,无法形成有效的飞轮。手机、PC 的飞速进化都靠标准化形态,而人形机器人形态适配的场景足够广,黄仁勋认为其大概率会成为出货量最大的机器人形态。
为此,英伟达与 Agile 合作,基于英伟达 Isaac GR00T 构建了 Agile ONE SN 人形机器人参考设计,把硬件与软件集成一体,预装计算机与软件,开箱即可运行,覆盖从数据采集到部署的全流程,将设置时间从数周缩短至数天,2027 年初可提供。
医疗领域,西门子医疗正联手英伟达重新定义个性化放射治疗:英伟达 AI 模型优化治疗计划,CUDA 加速剂量计算,Isaac for Healthcare 模拟在精准靶向肿瘤的同时保护健康组织,Holoscan 与 IGX Thor 实时响应患者的呼吸与动作,实现动态治疗调整。
汽车领域,沃尔沃、大众、Bolt 正在英伟达的自动驾驶平台 Hyperion 上构建自动驾驶汽车和 Robotaxi 车队。
英伟达还打造了专为物理智能汽车设计的全栈安全系统 NVIDIA Halos,已获全球 80% 汽车制造商采用,Uber 与 Bolt 计划基于 Halos 和 Hyperion 构建超过 20 万辆自动驾驶出租车。
同时,全新的 Halos SAFE 综合自动驾驶安全评估框架现已向所有 OEM 和独立软件供应商开放。
04.
结语:不止芯片与软件
英伟达要把方案也打包给客户
英伟达,正在加速走向全栈化。通过参考设计,英伟达打入了多个行业腹地,覆盖 AI 基础设施建设、机器人等领域。
可以看到,英伟达已经不仅仅满足于提供芯片和软件,而是把 " 怎么做 " 的具体方案也一并给出,参与到行业的技术路线定义中去。
这套打法也折射出 AI 落地路径的变化。对于行业来说,一套能直接运转的完整方案,可能比单个模型或某块芯片更有吸引力。


登录后才可以发布评论哦
打开小程序可以发布评论哦