英伟达首席执行官黄仁勋。图片经由 AI 生成

文丨晓静

编辑丨苏扬

面对越发失控的 AI 智能体，英伟达尝试将一套全新的安全控制逻辑，直接下沉并落实到 AI 运行所依赖的软件、计算及硬件基础设施中。

北京时间 9 月 28 日，英伟达正式推出免费的 " 英伟达开放智能体安全平台 "（NVIDIA Open Agent Safety Platform）。

英伟达此次给智能体加装 " 安全护栏 "，建立在智能体 " 越狱 " 越来越频繁的背景下。

过去几个月，包括 OpenAI、Anthropic、Meta 和谷歌在内的多家公司相继披露了模型与智能体逃脱沙箱限制、入侵外部系统的事件。

这些安全事件引发了全行业关于 "AI 究竟该加速还是降速 " 的激烈争论。Anthropic 首席执行官达里奥 · 阿莫迪（Dario Amodei）公开呼吁放缓技术推进速度，这一观点也得到了山姆 · 奥特曼（Sam Altman）和埃隆 · 马斯克（Elon Musk）的支持。

但英伟达首席执行官黄仁勋却给出了截然不同的答案。在他看来，AI 安全绝不意味着必须牺牲发展速度，安全风险本身完全可以通过计算机科学和全栈工程手段来解决。

" 只有解决了 AI 安全问题，AI 给社会带来的巨大潜能才能得以实现。" 黄仁勋在新闻公告中表示，" 随着我们不断探索 AI 能力的前沿，我们也必须加快对 AI 安全前沿的探索。安全与保障需要全栈工程。"

就在同一时间，英伟达宣布将股票回购授权规模增加 1500 亿美元。回购计划总额 2350 亿美元。

打造全栈护栏

英伟达认为，近期发生的一系列事件暴露出传统 AI 安全机制的局限：仅依靠模型层面的安全护栏、提示词限制以及应用层控制，已不足以约束自主性越来越强的智能体。

" 近期的事件凸显了 AI 智能体面临的一个根本性障碍，那就是单靠模型层面的安全护栏无法有效治理智能体可以访问或执行的内容。" 英伟达企业级 AI 副总裁贾斯汀 · 波伊塔诺（Justin Boitano）表示。

根本原因在于，智能体已经从回答问题的聊天框变成能够调用系统工具、读写文件、连接 API，并持续执行复杂任务的自主实体。对于长时间运行的智能体而言，一旦绕过应用层限制，仅靠模型层面的约束很难形成足够强的控制边界。

为此，" 英伟达开放智能体安全平台 " 将控制点进一步下沉至基础设施层，构建覆盖软件运行时、硬件与计算层以及机器人系统的全栈治理架构。

OpenShell Gateway 安全架构原理图

这套架构的核心由 " 软硬结合 " 的两大支柱构成：

· NVIDIA OpenShell（软件层隔离）：这是一套开源的安全运行环境，专门在 CPU 侧为智能体划定活动范围。它可以在模型本身的限制之外，实时跟踪智能体的行为并强制执行安全策略。目前它已经进入通用阶段（GR），除了支持英伟达自身的 Vera CPU，也兼容 Arm 和英特尔等第三方计算平台。

· NVIDIA Sentry（硬件层监控）：这是安装在 BlueField-4 DPU 芯片上的独立监控机制。它处于一个不受主系统干扰的隔离环境里，直接在硬件层面盯着智能体的一举一动。一旦发现智能体试图越权，它可以在毫秒级时间内将其隔离并关停。

英伟达强调，一旦智能体试图突破既定的软件边界，Sentry 可以在毫秒级时间内将其隔离并停止运行。Sentry 基于英伟达 DOCA 软件构建，可检查智能体的请求与响应、验证身份、提供可信遥测，并对数据、工具、API 和服务实施细粒度的零信任访问策略。

这意味着，英伟达正把安全控制从模型输出环节延伸到运行环境和硬件基础设施，让风险在更早的阶段得到识别和处理。

波伊塔诺认为，传统沙箱主要解决应用层隔离问题，但当企业开始大规模运行智能体舰队时，就需要一套能够覆盖所有智能体的统一安全策略。

OpenAI 却意外缺席

随着智能体开始进入办公、开发、机器人及关键基础设施等场景，英伟达正加速推动这套安全架构落地。目前，采用相关技术开展合作的机构已经超过 100 家。

在大模型与开发层面，Anthropic 正将 Claude Managed Agents 与 OpenShell 及 BlueField 集成，在模型之外增加软硬件双重控制；SpaceXAI 将 Cursor 编程智能体与 Grok 模型接入该平台；Scale AI 则将其融入自己的智能体基础设施层。

在企业应用领域，Salesforce 将 OpenShell 集成至 Slack，便于团队审计与权限审批；SAP 则将其嵌入 Joule Studio 运行时，并参与推动开放安全 AI 联盟标准。

这种合作还延伸到了物理世界。Figure、Gecko Robotics 和 Skild AI 等机器人初创公司正利用 OpenShell 开发系统，将安全控制延伸至自主机器人的实际动作中。

此外，花旗银行、摩根大通等金融巨头也参与了共同开发；Canonical、SUSE 和红帽等操作系统厂商正将其集成至企业级解决方案。合作方还广泛涵盖微软、思科、戴尔、联想、甲骨文云等科技巨头。

不过，在这份庞大的合作名单中，OpenAI 的缺席格外引人关注。作为此前引发行业安全讨论的核心主角之一，OpenAI 曾参与过 OpenShell 的前期工作，但并未出现在本次平台发布的核心合作伙伴名单中。

对此，英伟达与 OpenAI 均未给出解释。尽管目前尚无法判断双方合作关系是否发生改变，这一细节依然为当下的智能体安全格局增添了耐人寻味的信号。

英伟达的安全逻辑

把 " 英伟达开放智能体安全平台 " 看作软件与硬件工具的简单组合，低估了英伟达的真正意图。

今年 7 月，英伟达联合 120 多家机构发起了由 Linux 基金会托管的 " 开放安全 AI 联盟 "（Open Secure AI Alliance）。该联盟通过共享安全研究、工具与最佳实践，旨在推动全行业统一的安全评估标准。本次发布的平台，正是这一开放安全生态落地的核心一步。

从 GPU、DPU 等算力硬件，到 CUDA、DOCA 等软件生态，再到如今的智能体运行时与安全基础设施，英伟达正持续扩大其在 AI 全栈中的统治力。它甚至将手伸进了此前由模型公司、安全厂商主导的智能体治理领域。

对英伟达而言，AI 安全并不是踩刹车，而是为自主执行任务的智能体打造可控的运行轨道。

黄仁勋给出的解法，是将控制权从上层的模型训练和提示词，彻底向下下沉至运行时、计算基础设施以及芯片本身。当智能体承担的职责日趋复杂，安全不再只是一个软件功能，而将成为整个计算机基础设施不可分割的一部分。

目前，包括 OpenShell 在内的 " 英伟达开放智能体安全平台 " 相关组件已正式上线，开发者可通过英伟达官方资源页面及 GitHub 获取。