格隆汇 昨天
美国禁令“封杀”!Anthropic最强两款AI模型被紧急关停
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

美国政府一纸禁令,上线仅 72 小时的 Anthropic 最强两款 AI 大模型遭全球下架。

因被列入出口管制,Anthropic 官宣全球禁用外籍人士对 Claude Fable 5 和 Mythos 5 的所有访问权限。

无论美国境内、境外,甚至连 Anthropic 自家外籍员工也都不许碰。

这是 AI 史上第一次,一个已经部署给数亿人的商业大模型被美国政府强制召回。

公司虽然表示服从,但不认同美政府的 " 封杀 "。

全球紧急下架

当地时间 6 月 12 日,Anthropic 发布下架声明。

公告称,旗下两款大模型 Fable 5 与 Mythos 5 因美国政府援引国家安全部门意见发布的出口管制指令,已被紧急关停。

该指令禁止所有外籍人士(无论身处美国境内还是境外)使用上述两款模型,甚至 Anthropic 公司外籍员工也被纳入限制范围。

Anthropic 披露,公司在美东时间当日下午 5 点 21 分收到该政府指令,但文件并未详细说明具体的国家安全隐患。

据其了解,美方称发现了可绕过 Fable 5 安全防护机制的 " 越狱破解 " 方法。

然而,Anthropic 查看相关演示后表示,该手段仅能找出少量此前已被发现的轻微漏洞,且这些漏洞难度较低,市面上其他公开模型无需破解也能检测出同类问题。

事实上,Anthropic 在 Fable 系列模型的安全防护上投入了大量资源。

在正式上线前数周,公司联合美国政府、英国人工智能安全研究所、多家第三方机构及内部团队,对 Fable 的安全防护体系开展了累计数千小时的攻防测试。

测试结果证明,Fable 的安全防护效果远优于以往所有已落地的模型,测试人员尚未找到能够大范围绕过模型防护的通用破解手段。

Anthropic 在声明中坦承,现阶段没有任何一家模型厂商能做到彻底防范越狱破解。

为此,Anthropic 为 Fable 5 采用了纵深防御策略

一方面限制非通用型破解手段的作用范围,另一方面大幅提升研发通用破解手段的成本;同时搭配全流程监控,一旦发现破解攻击行为可第一时间识别并阻断。

这也是公司要求留存用户使用 Fable 相关数据 30 天的原因。

值得关注的是,美方迄今为止仅口头告知 Anthropic 存在一种范围有限的非通用型破解方式,原理大致是指令模型读取特定代码库并修复软件漏洞。

公司核查后发现,报告中展现的能力其他主流模型(包括 OpenAI 的 GPT-5.5)均已具备,网络安全防护人员日常也一直在使用同类功能。

Anthropic 的无奈

6 月 9 日,Anthropic 才刚发布 Fable 5 和 Mythos 5。

号称目前地表最强的大语言模型,能力全面碾压前代,AI 圈听闻更是一片欢呼。

虽然两个模型都基于相同的技术基础,但只有 Fable 5 向公众发布。

而 Mythos 5 仅向包括关键网络安全和基础设施公司在内的部分受信任合作伙伴发布。

彼时,Anthropic 大肆宣传自家模型 " 强大又危险 "。

其强调 " 发布这样一款功能强大的模型是有风险的。如果没有安全措施,Fable 5 在网络安全等领域的功能可能会被滥用,造成严重损害。"

不过仅仅三日,禁令突袭:美国禁止外国人用 Claude。

对于美国政府的 " 封杀 ",Anthropic 服从但不认同。

公司无奈表示,将遵照政府指令关停上述两款模型的访问权限,但并不认同仅凭一种局限性较强的潜在破解手段就下架面向数亿用户的商用模型。

Anthropic 认为,倘若全行业都执行这一标准,前沿 AI 模型厂商的新模型落地工作基本都会陷入停滞。

Anthropic 此前公开表态支持政府依据透明、公平、规则清晰、以技术事实为依据的法定流程叫停存在安全隐患的模型上线,但认为本次管控举措并不符合上述原则。

目前,Anthropic 已向用户致歉,并表示正全力推进相关工作,争取尽快恢复模型访问权限,同时承诺将在未来 24 小时内公布更多细节。

Anthropic 旗下其他所有模型的使用权限均不受影响。

格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

美国 美国政府 ai 出口管制 越狱
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论