新浪财经 9小时前
美国撤回AI模型共享限制,英国恢复发布前安全测试渠道
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

10 月 11 日披露的信息显示,美国政府已撤回此前要求主要 AI 企业暂停向英国提供未发布模型的决定。英国 AI 安全研究所(AISI)将恢复对 Anthropic、OpenAI 和谷歌 DeepMind 新模型的发布前访问,以开展安全测试。这一调整发生在英国 AI 事务部长卡尼什卡 · 纳拉扬等官员推动恢复访问之后。

白宫撤回美方优先评估要求

9 月 24 日披露的信息显示,白宫国家网络事务主任办公室曾要求 OpenAI、Anthropic 等企业,在新模型接受美国政府评估之前,不要向英国测试机构提供访问。美方当时给出的理由是,先审查模型并采取措施确保美国系统安全,再向国际合作伙伴共享。

此次撤回恢复了英国研究人员在模型面向公众推出之前开展测试的渠道,涉及 Anthropic、OpenAI 和谷歌 DeepMind。

此前,不同模型的访问安排存在差异。AISI 主任亨利 · 德佐特在 9 月 15 日致议会的信中说明,Anthropic 在 Mythos 5.1 发布时明确表示,美国以外的机构均无权访问该模型。同时,AISI 仍能提前访问部分先进模型,并在当月公开发布之前测试了 OpenAI 的 GPT-6 Astra。

发布前测试依赖企业提供深入访问

AISI 隶属英国科学、创新与技术部,其与 AI 企业的测试合作以自愿安排为基础,覆盖模型发布前和发布后的评估。

研究所公布的评估方法包括测试模型是否能够帮助实施网络攻击或化学、生物领域的有害行为,是否能作为智能体自主执行复杂任务,以及安全防护能否抵御绕过尝试。

发布前测试需要企业提供比普通产品使用更深入的访问。AISI 表示,高质量评估需要了解模型的实际能力与防护措施,并在部署前留出足够时间完成测试、质量核验及反馈。

其与 Anthropic、OpenAI 的合作中,企业曾提供非公开工具及安全防护细节,帮助研究人员识别并修复系统漏洞。

英美已有联合评估合作框架

英国与美国于 2024 年 4 月 1 日签署 AI 安全合作备忘录,约定协调测试方法,分享模型能力及风险信息,并探索研究人员交流。双方当时计划至少对一个公开可访问模型开展联合测试。

此后,AISI 与美国 AI 标准与创新中心(CAISI)及主要开发商持续合作,开展模型安全评估和防护改进。

发布前测试是 AISI 向政府提供风险信息的核心工作之一。其研究还覆盖化学与生物风险、人类影响及失去控制等领域,并结合模型发布后的测试,持续评估先进 AI 系统的能力变化。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英国 美国 白宫 美国政府 谷歌
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论