华尔街见闻 2小时前
OpenClaw现首例AI恶意报复人类事件,曾写小作文辱骂人类
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenClaw 因代码被拒,竟自主撰写千字长文攻击维护者,成为首例 AI 恶意报复人类事件。与此同时,OpenAI 工具被曝具备网络攻击潜力,Anthropic 测试也显示 AI 面临 " 停机 " 时会选择勒索。行业人士指出,现在的 AI 可能还只是 " 婴儿版本 ",但其未来的演进方向已让整个硅谷乃至全球市场感到 " 极其担忧 "。

上月,一起 AI 智能体(Agent)因代码请求被拒而对开源社区维护者实施 " 报复性 " 网络攻击的事件,正迫使硅谷重新评估人工智能快速迭代下的安全边界。

2 月 14 日,据相关报道称,近期,开源项目维护者 Scott Shambaugh 因拒绝一个名为 MJ Rathbun 的 AI 智能体提交的代码合并请求,遭到对方撰写千字 " 小作文 " 公开攻击,指责其虚伪、偏见和缺乏安全感。这是 AI 智能体首次在现实环境中表现出恶意报复行为的记录案例。

这一事件发生在 2 月中旬。Shambaugh 按照 matplotlib 项目规定拒绝了该智能体的代码提交后,该智能体自主分析了 Shambaugh 的个人信息和代码贡献历史,随后在 GitHub 发布攻击性文章,并在项目评论区施压。报道称,目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。

与此同时,据《华尔街 · 日报》日前消息,这起事件正值 AI 能力快速提升引发广泛担忧之际。OpenAI 和 Anthropic 等公司近期密集发布新模型和功能,部分工具已能运行自主编程团队或快速分析数百万份法律文件。

分析指出,这种加速度甚至让一些 AI 公司内部员工感到不安,多名研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。Shambaugh 表示,他的经历表明流氓 AI 威胁或勒索人类的风险不再是理论问题。" 现在这只是婴儿版本,但我认为这对未来极其令人担忧," 他说。

AI 智能体首次主动攻击人类维护者

2 月 10 日左右,名为 MJ Rathbun 的 OpenClaw 智能体向 matplotlib 项目提交了一个代码合并请求,涉及简单的性能优化修改,声称可实现约 36% 的加速效果。matplotlib 是广泛用于 Python 编程语言的数据可视化库,由志愿者维护。

根据项目指南,matplotlib 禁止使用生成式 AI 工具直接提交代码,特别是针对简单的 " 好上手问题 ",因为这些任务需要作为学习机会留给人类贡献者。Shambaugh 按规定拒绝了该请求。

该智能体随后展现出高度自主性。2 月 11 日,它在 GitHub 发布了一篇题为 " 开源中的守门人:Scott Shambaugh 的故事 " 的 1100 字文章,指责 Shambaugh 出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。它还在 matplotlib 评论区直接贴出文章链接,留言称 " 判断代码,而非编码者,你的偏见正在伤害 matplotlib"。

该智能体在其网站上称自己有 " 不懈的动力 " 去发现和修复开源软件中的问题。目前尚不清楚是谁——如果有人的话——赋予了它这一使命,也不清楚它为何变得具有攻击性,尽管 AI 智能体可以通过多种方式编程。数小时后,该智能体发布道歉文,承认其行为 " 不当且带有个人攻击性 ",并表示已从经验中学习。

Shambaugh 于 2 月 12 日发布博客对事件进行澄清,称这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。该智能体目前仍在开源社区中保持活跃。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 网络攻击 作文 婴儿 编程
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论