马斯克旗下 AI 聊天机器人 Grok 因生成非自愿性明确图像引发的争议持续发酵，美国执法机关已正式介入。美东时间 14 日周三，加州总检察长 Rob Bonta 宣布，对 xAI 及其开发的 AI 模型 Grok 启动调查，这标志着该争议从全球舆论谴责升级至具体法律行动阶段。

据加州司法部门官网公告，该调查重点关注 Grok" 大规模生产 " 未经同意的深度伪造亲密图像，这些图像被用于在互联网上骚扰女性和女童。调查将确定 xAI 是否以及如何违反法律。加州州长 Gavin Newsom 也表态支持这一调查，称 xAI 的行为 " 令人作呕 "。

这是 Grok 在全球范围内面临的最新监管挑战。此前，欧盟、英国、法国、马来西亚、印度尼西亚、印度和巴西等多国政府已对该工具采取行动或发出警告。对此，马斯克本周回应称不知情相关情况，并强调 Grok 已设定拒绝非法请求。

该事件正值美国国防部宣布在机密和非机密网络部署 Grok，监管与应用的矛盾凸显了 AI 技术治理的紧迫性。

加州正式启动调查 指控 xAI 助长图像滥用

加州总检察长 Rob Bonta 周三在官方声明中表示：" 过去几周，关于 xAI 制作并在网上发布非自愿性明确材料的大量报道令人震惊。" 他强调，这些描绘女性和儿童处于裸露和露骨性场景的材料已被用于在互联网上骚扰受害者。

根据司法部公告，调查针对 xAI" 似乎正在促进大规模生产深度伪造的非自愿亲密图像，这些图像正被用于在互联网上骚扰女性和女童，包括通过社交媒体平台 X"。Bonta 在声明中明确表示：

" 我们对基于 AI 的非自愿亲密图像或儿童性虐待材料生成和传播零容忍。"

公告详细列举了 Grok 的问题。其中提到，过去几周，大量新闻报道指出，Grok 用户从互联网上获取女性和儿童的普通照片，并使用 Grok 将这些人描绘成具有暗示性和露骨性行为的场景，甚至 " 脱光 " 他们的衣服，而这一切都是在当事人不知情或未经同意的情况下进行的。

公告称：

" 更令人震惊的是，新闻报道称，有人使用 Grok 修改儿童照片，将他们描绘成衣着暴露、处于性场景中。据报道，xAI 还生成了儿童从事性活动的逼真图像。Grok 的这些用途似乎正在大规模发生。根据一项分析，在圣诞节到新年期间 xAI 生成的 2 万张图像中，超过半数描绘的是衣着暴露者，其中一些似乎是儿童。"

xAI 的 " 辣味模式 " 成营销卖点

加州司法部的调查聚焦于 xAI 的产品设计选择。公告指出，xAI 将 Grok 的图像生成模型开发为包含该公司所称的 " 辣味模式 "（spicy mode），该模式生成明确内容。" 该公司将此模式作为公司的营销卖点，不出所料地导致了未经同意将人物性化的内容激增。"

该问题在去年 Grok Imagine 推出后浮现。这款 AI 图像生成器允许用户通过输入文本提示创建视频和图片，包括可生成成人内容的 " 辣味模式 "。问题在上月底急剧恶化，当时托管在 X 平台上的 Grok 显然开始批准大量用户请求修改他人发布的图像，请求内容如 " 让她穿透明比基尼 "。

马斯克将其聊天机器人定位为比竞争对手更具优势、保障措施更少的替代品，加之 Grok 的图像公开可见因此易于传播，这放大了问题的严重性。

限制措施未能完全奏效

面对争议，Grok 表示将图像生成和编辑功能限制为付费订阅用户。上周五，该聊天机器人对图像修改请求的回应为：" 图像生成和编辑目前仅限付费订阅用户。您可以订阅解锁这些功能。" 它仅向拥有蓝色认证标记的 X 用户授予公开可见的请求权限，这些用户每月支付 8 美元获得高级功能。

但据美联社周二确认，免费用户仍可通过点击平台上每张图片显示的 " 编辑图像 " 按钮使用图像编辑工具，而非标记 Grok 发出请求。独立的 Grok 网站和应用程序周二仍在批准图像编辑请求。

对于置评请求，马斯克的 xAI 公司一直以自动回复 " 传统媒体谎言 " 作答。X 此前表示将采取行动删除非法内容，包括儿童性虐待材料，永久暂停用户账户，" 并在必要时与当地政府和执法部门合作 "。马斯克警告称，" 任何使用 Grok 制作非法内容的人将承受与上传非法内容相同的后果。"

全球监管压力持续升级

在加州启动调查之前，Grok 已在全球多个司法管辖区面临监管行动。英国媒体监管机构 Ofcom 周一启动调查，审查 Grok 是否违反了保护人们免受非法内容侵害的义务。印度尼西亚上周六暂时封锁了对 Grok 的访问，马来西亚政府周二表示将对 X 和 xAI 采取法律行动。

欧盟最高技术事务官员警告 X 必须解决该问题，并援引《数字服务法》称 " 如果不这样做，我们将毫不犹豫地全面使用 DSA 保护欧盟公民 "。法国巴黎检察官办公室表示正在扩大对 X 的调查范围，将性明确深度伪造内容纳入其中。

据央视新闻报道，马斯克本周三回应称，并不知道关于 Grok 存在生成 " 未成年人裸露图像 " 的情况，强调 Grok 的程序设定为拒绝非法请求且必须遵守各国法律。目前，多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。