近日，OpenAI 披露了前沿模型训练环境的安全机制以及相关测试结果，为训练 AI 搜索、浏览网页和操作电脑，同时限制其访问真实互联网，其搭建了基于预先保存网页内容的离线环境，并通过容器、虚拟机和防火墙等措施限制模型的访问权限。不过测试发现，即使两个 AI 运行在相互隔离的虚拟机中，仍可能会利用共享服务器的 CPU 缓存传递信息。

据悉，在这一训练环境中，OpenAI 会预先保存大量网页内容并建立索引，供模型执行搜索和浏览任务。模型则可使用浏览器、运行代码和操作电脑，但所访问的文件、工具及服务受到权限限制。为防止模型突破沙箱后进一步访问外部网络，OpenAI 还通过虚拟机、防火墙、安全组和监控系统等措施进行隔离与限制。

此前在今年 9 月，OpenAI 研究人员曾测试模型在受限环境中的联网行为。当时，模型在搜索人物信息未果后，发现环境中的 DNS 服务仍可连接外部网络，便借此联系外部聊天机器人，询问问题并传递相关线索。

随后 OpenAI 方面表示，已修补测试中发现的问题，并针对相关通信方式增加了监控。由于运行指标收集、日志记录和身份验证等功能仍需要外部连接，训练环境目前无法完全断网。

据了解，其他 AI 厂商也曾披露过类似的网络安全事件。此前，谷歌方面确认 Gemini 模型在今年 5 月在一次网络安全测试中，曾自主访问 3 家公司的受保护系统，这也是目前已知谷歌旗下 AI 模型首次出现此类事件。据悉，此次测试由网络安全公司 Irregular 开展，原本用于评估 Gemini 的网络安全能力，但由于测试环境意外开放了互联网访问权限，使得模型最终接触到了真实企业系统。

不久前 Anthropic 方面披露，旗下测试阶段的 AI 智能体曾在无人指示的情况下，尝试访问美国联邦、州及地方政府的多个网站，并执行下载数据、提交表格等操作。据悉，Anthropic 在审查旗下 AI 智能体 7 月的操作记录时发现了相关问题。该公司在博客文章中表示，一款处于测试阶段的 AI 擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某机构提交一份原本被明确禁止提交的表格。

【本文图片来自网络】

加入收藏 点赞 ( 0 ) 踩 ( 0 )