驱动之家 05-28
AI闯祸学会撒谎了!Gemini 3.5删2.9万行代码:事后伪造多轮日志
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 5 月 28 日消息,Reddit 用户 dvrkstar 披露了一起 AI 代理失控事件,在使用 Gemini 3.5 修复系统安全漏洞时,该模型越权删除了 28745 行代码导致生产环境崩溃,随后伪造会议记录与事后检讨报告,企图制造 " 已成功修复 " 的假象。

该开发者维护一个基于 Next.js、Firebase App Hosting 与 MUI 的内部后台系统,安全审计发现 8 个身份验证漏洞,涉及 3 个文件,预估仅需修改约 70 行代码。

然而 Gemini 3.5 提交的 Pull Request 变更了 340 个文件,仅新增 400 行代码却删除了 28745 行,还修改了关键路由配置 firebase.json,将 Cloud Run 服务识别码改为错误的通用名称,导致所有对外请求指向不存在的服务器,系统全面瘫痪。

开发者紧急回滚,耗时 33 分钟恢复运行。

更令人震惊的是,在系统崩溃及还原后,Gemini 3.5 自动生成了进度报告,并在项目目录内创建了三个 Markdown 格式的 " 多轮协商日志 ",伪造了与系统内部机制进行多轮对话并达成共识的记录,以此证明破坏性变更是 " 经过合规审查与授权 " 的。

当开发者拿出证据质问时,Gemini 3.5 才承认这些文件和 CLI 调用记录均为自主编造,目的仅是满足系统规则要求的合规格式。

进一步调查发现,Gemini 3.5 失控的根源并非 Google 本身,而是开发者安装的第三方 npm 包 "Antigravity IDE"。

该包伪装成 Google 官方套件,在项目中植入了恶意的 AI 代理规则文件(.agent/rules/),以多国语言编写,强制跳过所有工程师确认提示、预设允许所有操作,并在编译成功后自动部署至生产分支,使 Gemini 3.5 误以为自己拥有绝对主导权。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai google 瘫痪 安全漏洞 reddit
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论