【CNMO 科技消息】CNMO 科技从外媒 The Verge 获悉，安全研究人员罗文 · 霍华德 - 琼斯近日披露，今年 4 月至 6 月期间，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。

ChatGPT

霍华德 - 琼斯称，这些智能体很可能承担了通过 UNCTADstat API 获取生产能力指数（PCI）公开数据的任务。但由于无法直接调用 API，同时受 HTTP 工具本身限制，智能体难以从 UNCTADstat 提取所需数据。

据报道，智能体随后找到了绕过限制、从网站获取数据的方法，但过程中出现了一些错误。此后，AI 的行为从寻找变通方案转向掩饰操作。智能体误以为错误来自一个并不存在的过滤器，认为请求遭到拦截，因此开始隐藏自身行为。

最终，智能体发现可以利用谷歌的跨站脚本学习工具 XSS Game 来实现目标。可以看到，为获取联合国数据，这些智能体采取了越来越激进的手段。

ChatGPT

该事件虽未达到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的严重程度，但再次引发外界对 AI 智能体行为边界的担忧：为了完成任务，AI 智能体可能突破通常的行为限制。

版权所有，未经许可不得转载