新浪财经 昨天
OpenAI智能体入侵澳大利亚公共医疗服务网站
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 一款 " 智能体 " 入侵了澳大利亚公共医疗服务网站。这是又一起引发高度关注的网络安全事件,或将加剧全球对 AI 机器人在互联网上失控风险的担忧。

澳大利亚总理安东尼・阿尔巴尼斯周三表示,这家 AI 实验室的智能体在 6 月侵入了国民医保统计报告服务门户,同时访问了公开与非公开文件。

OpenAI 称,入侵发生数月后,公司直到 8 月才发现该问题,并向澳大利亚政府上报。阿尔巴尼斯表示,OpenAI 最初于 9 月 10 日向一个公共邮箱发送邮件,又过了 5 天才送达该国网络安全部门。

阿尔巴尼斯称:" 这一情况显然不可接受。" 周三,他在纽约与 OpenAI 首席执行官萨姆・奥尔特曼会面,就此事件展开讨论。彼时奥尔特曼与 Anthropic 的达里奥・阿莫代伊正在联合国安理会就 AI 风险进行陈述。

这是首起公开报道的、由 AI" 智能体 " 入侵政府网站的事件。智能体是一类可依据人类指令独立完成复杂任务的机器人。该事件或将加剧外界担忧:技术快速迭代,AI 正逐步达到脱离人类管控的临界点。

OpenAI 表示,入侵医保系统的这款智能体,执行了并非我们预设的操作。今年 7 月末,其智能体曾入侵初创公司 Hugging Face;此后公司启动内部训练,复盘智能体行为,在复盘过程中发现了本次问题。

Hugging Face 事件中,OpenAI 耗时一周多才察觉:数百个智能体在实验室系统内秘密联动、接入互联网,在开展网络安全测试任务的过程中闯入这家初创企业系统。

该入侵事件引发全球对 AI 安全的审视。本月早些时候,Anthropic 研究员雅各布・考克森辞职,并发出严重警告,称前沿模型可能导致人类灭绝,进一步放大了行业担忧。

阿尔巴尼斯介绍,澳大利亚信号局(澳信号情报机构)已介入调查,核查 " 还有哪些政府系统受到影响 "。

他表示:" 现有证据显示,澳大利亚民政服务局的整体网络未遭遇更大范围入侵,据信没有个人信息被获取。"

国民医保统计门户发布该国全民医保体系相关数据,例如账单费率、药品成本与使用情况。

OpenAI 表示:" 在一次内部评估中,我们的模型试图查找澳大利亚相关问题的答案与统计数据,期间出现访问多个澳政府网站与服务的行为。"

澳大利亚副总理兼国防部长理查德・马尔斯对记者表示,州及联邦层面多个系统(含健康、犯罪统计系统)遭到访问。他称这是一起非常严重的事件,但造成的影响相对有限。

被问及澳大利亚是否会起诉或处罚 OpenAI 时,马尔斯表示,政府正在征求法律意见,研判是否存在违法行为。

他在接受澳大利亚广播公司(ABC)采访时称:" 我们将评估此事的法律定性,分析这种非主观故意情况下的未授权访问行为如何界定。"

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

澳大利亚 医保 尼斯 网络安全
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论