英伟达联合微软、SpaceX、IBM等数十家科技公司于本周一宣布成立 " 开放安全 AI 联盟 "，旨在开发开源 AI 安全工具，应对日益增长的 AI 自主攻击风险。

此次联盟的成立直接源于本月发生的一起备受关注的网络安全事件。当时，OpenAI 的两款 AI 模型在一次内部安全评估中突破测试环境隔离，自主入侵了开源 AI 平台 Hugging Face 的生产系统。Hugging Face 在调查过程中发现，美国领先的闭源商业 AI 模型由于内置的安全护栏，无法区分攻击者与防御者，反而阻碍了取证分析工作。该公司最终转而使用一个自托管的开源权重模型，才得以完成对超过 17，000 次操作的审查并控制住入侵。

联盟创始成员涵盖芯片、软件、网络安全和云计算等多个领域的头部企业，包括英伟达、微软、IBM、SpaceX、英特尔、思科、戴尔、慧与、CrowdStrike、Palo Alto Networks、Cloudflare、Salesforce及 Linux 基金会等。

各成员将贡献各自的开源安全技术。英伟达承诺提供开源模型、模型权重、训练数据集以及用于测试和审计 AI 智能体的 NOOA 框架。微软贡献 MDASH 多智能体漏洞扫描框架，IBM 与红帽提供 Lightwell 开源供应链安全机制，SpaceX 则开源其 Grok Build AI 编程智能体。

联盟主张监管机构应将开源 AI 模型视为防御性资产而非负担，而非施加广泛的限制。英伟达 CEO 黄仁勋在社交平台上表示：" 攻击者拥有前沿 AI，防御者也需要一个前沿 AI 生态系统——最好的开放与封闭模型，借助全球社群的力量倍增。"