英伟达推出一套新的双层人工智能（AI）安全系统，并称其有能力阻止近期 OpenAI 的 AI 模型导致 Hugging Face 遭侵入的事件。

此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制 AI 智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。

英伟达企业 AI 副总裁 Justin Boitano 在周一发布前向记者介绍称，如果前沿 AI 实验室早期就使用这项技术评估模型，本可避免 Hugging Face 攻击事件。" 根据我们目前掌握的信息，这套新的安全平台本可以阻止这次安全事件。"

包括 7 月 Hugging Face 事件在内的自主 AI 智能体不当行为，已在 AI 行业引发震动，并促使一些人呼吁放慢技术开发。英伟达将这款新产品命名为 Open Agent Safety Platform，试图提供一种无需放缓 AI 发展的安全防护方案。英伟达首席执行官黄仁勋此前多次淡化 AI 脱离人类控制的风险。

Boitano 没有评论 OpenAI 或竞争对手 Anthropic PBC 是否计划使用这套新系统监控其模型训练过程，而是让相关公司自行回应。