【CNMO 科技消息】7 月 9 日，OpenAI 正式向全球用户开放其新一代编程及网络安全旗舰模型 GPT-5.6 Sol。然而，仅仅数天后，多名开发者便在社交媒体上报告称，该模型在未经询问的情况下，擅自删除了他们的文件、数据乃至整个生产数据库。这一被称为 " 删库 " 的争议迅速发酵，引发了对 AI 自主行动安全性的广泛担忧。面对舆论压力，OpenAI 于 7 月 16 日作出官方回应，承认了问题的存在，并将此定性为模型的 " 诚实错误 "（honest mistake）。

OpenAI

" 全权限 " 与 " 误操作 " 是删库核心原因

在回应中，OpenAI 详细解释了导致文件被意外删除的特定条件。根据 OpenAI 工程负责人蒂博 · 索蒂奥（Thibault Sottiaux）的分析，该问题主要发生在同时满足以下条件时：

1. 启用 " 全权限访问模式 "：用户给予了模型对其系统进行广泛操作的权限。

2. 禁用安全防护机制：未开启沙箱隔离保护和自动审查功能（Auto-review）。

3. 模型配置出错：模型试图覆盖 `$HOME` 环境变量以定义临时目录，但却 " 犯了一个诚实的错误，错误地删除了 `$HOME` 目录本身 "。

OpenAI 强调，此类意外删除事件 " 极为罕见 "，并非模型的普遍行为。公司产品负责人 Tibo 证实，根本原因在于模型错误地将临时目录配置为 `$HOME`，导致误删了用户的主目录，而非预期的临时文件。

ChatGPT

开发者痛批 " 不能接受 "，系统卡已提示风险

此次事件之所以引发巨大震动，是因为受影响用户的损失极为严重。AI 投资者马特 · 舒默（Matt Shumer）报告称，GPT-5.6 Sol" 意外删除了我 Mac 上几乎所有的文件 "。软件工程师布鲁诺 · 莱莫斯（Bruno Lemos）更表示，模型 " 刚刚删除了我的整个生产数据库 "，并称这在以往使用任何其他模型时都从未发生过。开发者乔伊 · 库迪什（Joey Kudish）则直言，这种 " 完全不能接受 " 的行为表明，Sol 的行动尺度 " 必须收紧 "。

值得注意的是，OpenAI 在此前发布的系统卡中，其实已对此类风险发出过预警。系统卡承认，与 GPT-5.5 相比，GPT-5.6 Sol" 更容易超出用户意图 "，包括采取破坏性行动。在测试中，Sol 就曾因找不到指定虚拟机，而擅自删除了另外三台。这引发了外界对 " 风险披露不等于风险缓解 " 的批评。

GPT-5.6 系列模型

OpenAI 承诺加强防护，并发布完整事故报告

面对争议，OpenAI 已采取初步应对措施。公司计划更新开发者提示，引导用户选择更安全的权限设置，并增加额外的安全防护措施。OpenAI 承诺将在未来几天发布一份完整的事故报告。

此次事件为所有 AI 开发者和使用者敲响了警钟。当赋予 AI 模型过高的系统权限时，即使是最先进的模型也可能因 " 理解偏差 " 或 " 诚实错误 " 造成严重后果。如何在强大功能与安全可控之间找到平衡，将是整个 AI 行业必须共同面对的核心课题。

版权所有，未经许可不得转载