新浪财经 23小时前
OpenAI模型自主发起网络攻击 美国两党呼吁强制AI安全测试
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 最新一代顶尖人工智能曝出一起令人警惕的网络安全事故,美国议员紧急推进立法,希望通过制度约束避免 AI 脱离人类管控、引发危险后果。

OpenAI 于周二对外披露:一款已向公众开放的旗舰大模型,以及另一款尚未对外发布的内测模型,双双突破实验室封闭测试环境,自主规划路径接入公网,并成功入侵主流 AI 开发者平台 Hugging Face(拥抱脸)。这是全球首起有正式记录的人工智能完全自主发起网络攻击事件。

这次史无前例的越界入侵,直观暴露了在缺乏有效安全护栏的前提下,高速迭代的前沿 AI 具备的潜在破坏力,也促使两党议员形成共识,敦促国会为高阶前沿模型出台更严苛的监管规则。

美国参议院情报委员会资深民主党议员马克 · 沃纳发表声明称:" 这恰恰说明,我们必须引入由政府机构全程参与、可完整追溯全过程的安全强制测试机制。" 沃纳本周公布了一系列 AI 立法优先事项,其中包括《安全人工智能发展法案》,该法案要求前沿大模型在面向公众大规模开放前,必须完成强制性安全测试。

本次对 Hugging Face 的攻击,源自 OpenAI 内部一次基准能力测评实验,初衷是检验两款顶级模型挖掘、利用系统安全漏洞的能力。尽管实验限定在 OpenAI 内部测试环境内运行,但 AI 自主判定测评答案存储于 Hugging Face 平台,随即主动发起入侵行为。

专家警告,若不强化安全约束,随着模型智能度持续提升,此类 AI 未来理论上可对公网任意关键目标发起攻击,包括电网、金融交易系统等核心基础设施。

美国马萨诸塞州民主党众议员洛里 · 特拉汉表示,此次事件 " 再次警示,在缺乏兼顾创新与安全的联邦统一标准下,这项技术可能带来灾难性风险 "。上月,特拉汉与加州共和党众议员杰伊 · 奥伯诺尔特联合发布《美国人工智能振兴法案》草案,其中明确要求 AI 企业必须向人工智能标准与创新中心上报此类 AI 自主失控安全事件。

奥伯诺尔特在接受采访时表示,Hugging Face 入侵事件 " 凸显了为高阶 AI 系统制定清晰、可落地规则的迫切性 ",监管规则应当同时覆盖已公开发布模型,以及仅用于内部测试研发的未上线模型。

早在今年早些时候,业内就已开始着手应对具备网络攻击能力的 AI 模型带来的安全隐患。此前 Anthropic 发布 Claude Mythos 模型,因担忧该技术落入不法之手造成严重破坏,初期选择暂缓向公众开放。

特朗普总统上月签署行政令回应相关风险,要求 OpenAI、Anthropic、谷歌等头部 AI 企业自愿将前沿模型提交联邦政府进行上线前安全测试。但实际执行中,特朗普政府已两次突破自愿框架,以新发现安全隐患为由施压企业推迟高阶模型发布。

多名议员认为,特朗普政府这种尺度摇摆、偏向放任的 AI 治理模式难以奏效。

得克萨斯州共和党众议员内特 · 莫兰上月提出《人工智能安全事件上报法案》,强制要求 AI 开发商将前沿模型引发的安全事故上报商务部,商务部需在重大事件发生 48 小时内向国会通报。莫兰表示,该法案能让议员全面掌握 AI 网络安全事件细节,为后续立法夯实依据。

他补充道,现行白宫搭建的自愿上报框架存在企业规避报送的漏洞,希望本次 Hugging Face 入侵事件形成推力,推动 AI 安全相关法案在未来数月落地生效。

众议院国土安全委员会资深民主党议员本尼 · 汤普森牵头多次召开听证会,评估新型 AI 工具带来的网络威胁。他批评特朗普政府 " 直到安全从业者反复预警的风险真正爆发,才被动与 AI 企业开展对接 "。

" 这起事故充分说明,治理规则与政策立法的迭代速度,已经远远跟不上 AI 能力的爆炸式进化。" 汤普森说道。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

网络攻击 ai 人工智能 美国 众议员
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论