谷歌安全研究人员发现,一个网络犯罪组织借助人工智能生成了一款黑客工具,成功找到一款广泛使用的系统管理软件中的未知漏洞,并企图将其武器化。
这是谷歌首次捕获到利用 AI 生成 " 零日漏洞 " 的攻击行为,标志着 AI 驱动的网络攻击已从理论威胁演变为现实。零日漏洞是指开发者未知的缺陷,防御者在漏洞被利用之前根本没有时间进行修复。
据谷歌周一发布的报告,该漏洞可被用于绕过多重身份验证,进而渗透相关组织的内部网络。谷歌在黑客部署攻击之前及时向受影响软件的开发商发出警报,开发商随即修复了该漏洞,此次攻击未能得逞。
谷歌表示,有 " 高度把握 " 认定 AI 参与了漏洞的发现与武器化过程。尽管攻击被及时拦截,但谷歌研究人员指出,此类威胁已是现实存在,而非假设场景,对企业网络安全防御体系构成直接挑战。
谷歌未披露更多细节,但排除 Mythos 与 Gemini 参与
谷歌在报告中未透露涉事网络犯罪组织的名称、受影响的软件,以及黑客所使用的大型语言模型。
谷歌发言人表示,研究人员认为该漏洞不是通过 Anthropic PBC 旗下的 Mythos 模型或谷歌自家的 Gemini 模型生成的。谷歌同样未说明漏洞的具体发现时间,仅表示属于 " 近期 "。
此次攻击针对的是企业广泛使用的基于网页的系统管理工具。
此类工具用于远程配置和管理服务器、网站及应用程序,涵盖安全设置、员工账户管理及系统数据访问权限等核心功能,一旦被攻击者突破,将对企业信息安全构成严重威胁。
AI 安全问题持续发酵
此次事件的披露,发生在 AI 安全问题高度敏感的背景之下。
Anthropic 今年 4 月宣布,不会向外界广泛发布其新模型 Mythos ——原因正是该模型能够自主识别并利用软件漏洞,公司认为此举将构成安全风险。
Mythos 的能力引发广泛关注。白宫已就大型语言模型潜在的恶意使用问题采取应对措施,政府官员亦与科技及产业界领袖召开了紧急会议。
谷歌研究人员表示,此次发现的案例进一步印证了上述担忧并非多余——攻击者正在将 AI 能力转化为实际的网络武器,安全防御方需要对这一新型威胁保持高度警惕。


登录后才可以发布评论哦
打开小程序可以发布评论哦