财联社-深度 21小时前
Anthropic新模型发布三天就被禁用 美AI监管路线之争升温
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

财联社 6 月 15 日讯(编辑 赵昊)Anthropic 上周五(6 月 12 日)在官网宣布,受美国政府紧急出口管制指令影响,公司被迫暂停向所有客户开放其最新、能力最强的 Fable 5 和 Mythos 5 模型。

Anthropic 在新闻稿中解释道,美国政府的限制原本针对外国用户,包括公司的外籍员工。但 Anthropic 为了 " 确保合规 ",只能全面关停两款模型,美国客户也因此受到影响。

Claude 目前的页面显示,Fable 5 上有 " 当前不可用 " 的标签。

需要指出的是,Fable 5 和 Mythos 5 的正式发布日距离这一禁令仅过了三天。此举令整个人工智能(AI)行业措手不及,也引发了外界对美国政府针对 AI 技术监管方式的质疑。

接近 Anthropic 的人士透露,公司被美国政府要求在 90 分钟内实现合规。而且美国政府下达命令前,公司并未收到有关具体担忧的详细说明。为控制事态发展,Anthropic 紧急派遣了高级技术团队前往华盛顿展开沟通。

据了解,这一禁令来源于亚马逊研究人员的一份报告。知情人士称,研究人员在 Fable 模型中发现了一种潜在的 " 越狱 " 漏洞,即绕过模型安全护栏并提取软件安全漏洞信息的方法,亚马逊也首先将相关发现告知 Anthropic。

知情人士透露,亚马逊 CEO 安迪 · 贾西(Andy Jassy)周五向美国官员汇报了研究结果,导致了政府禁令的产生。据悉,贾西原本只是向官员表达了对 AI 前沿模型的整体担忧,而非专门针对 Anthropic。

本月早些时候,特朗普签署行政命令,要求企业在公开发布最新模型前,须向政府开放最长 30 天的网络安全测试窗口。接近事件的人士表示,Fable 模型在发布前已经获得了同属商务部体系内相关机构的测试批准。

在此之前,白宫一直释放出对前沿 AI 模型采取较少干预的监管信号。需要指出的是,即便在特朗普签署的行政命令中,并未赋予美国政府阻止模型发布的权力。

网络安全专家指出,修复 " 越狱 " 这类问题往往需要数周时间,而且即便修复,也无法保证不会出现新的漏洞。接近 Anthropic 的人士表示,公司正与政府密切合作,希望寻找双方都能接受的解决方案。

分析认为,此次冲突被视为美国政府监管越来越强大的 AI 模型的一次早期测试。多位行业高管和研究人员认为,利用出口管制工具来处理模型安全问题,可能会给前沿 AI 的部署带来新的不确定性。

乔治敦大学安全与新兴技术中心临时执行主任 Helen Toner 表示:" 业界普遍认同的一点是,你无法彻底修复这些模型的越狱问题,这并不是一门精确科学。政府理应预期 OpenAI 和谷歌的模型也具备类似能力。"

值得注意的是,美国政府冻结措施并未适用于 Anthropic 竞争对手 OpenAI 的领先模型,尽管这些模型已展现出相似能力——因此这一禁令也被怀疑是针对 Anthropic" 打击报复 " 的延续。

今年 3 月,美国国防部正式把 Anthropic 定为 " 供应链风险 " 对象,禁止国防部以及防务承包商在相关项目中使用该公司 AI 技术。因先前 Anthropic 反对将其技术用于全自主武器系统和在美国进行大规模 " 国内监控 "。

然而,美国官员和企业高管同时透露,国防部在内的政府机构实际上仍在使用 Anthropic 最先进的模型。刚刚获得 Anthropic 最新模型访问权限的欧盟委员会也表示,正在评估该命令对欧洲的影响。

网络安全公司 Luta Security 首席执行官 Katie Moussouris 获得了亚马逊提交给 Anthropic 的研究报告副本。她表示,亚马逊发现的能力,包括识别潜在网络漏洞,并不罕见,GPT 5.5 等竞品同样具备类似能力。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 亚马逊 特朗普 美国政府 美国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论