几天前，伊隆 · 马斯克在自己的 X 账号上转发了一条给吐司机穿上比基尼的帖子。他说，" 不知道为什么，但我就是忍不住为这件事笑个不停。"

吐司机身着比基尼的照片是过去半个多月来 Grok 及 X 平台深陷色情争议的缩影。Grok 早在去年年中就推出了 AI 图像生成及编辑功能，也曾因更激进大胆的 Spicy（火辣）模式屡上报端。在 Spicy 模式下，Grok 限制更少，允许生成成人内容。

但那时这一模式尚未像如今引发巨大争议。去年底，X 平台逐渐将这一功能引入平台内的 Grok 机器人后，大量 X 用户开始评论区中随意艾特 Grok 来生成带有性暗示或色情意味的合成图片，并在短时间内迅速演变成一场波及全球的 AI 色情暴力风波。

就像马斯克转发的那条帖子写道，"Grok 能给任何东西穿上比基尼。" 政客、明星、富豪（包括马斯克自己）乃至更多只是分享个人照片的普通人，只要照片一旦发布在 X 上，总有人在评论区中艾特 Grok，令其将照片人物修改成身着比基尼或其他带有性暗示的裸露照片，也就是所谓的 "AI 脱衣 "。

绝大部分受害者都是女性，甚至包括部分未成年人。"Put her in a bikini" 已经成为 X 平台上最热门的风潮。起初，评论区中部分用户提出的修改，尚且局限在给女性穿上比基尼等简单需求上。但紧接着要求愈发大胆且极端，仅仅是要求 Grok 给女性穿上比基尼还不够，还要更小、更透明乃至露出私处、摆出性暗示姿势等。

截至 1 月 14 日，包括英国、法国、意大利、印度、巴西、澳大利亚及欧盟等国家及地区的监管机构都已对 Grok 发出警告或展开调查，印尼及马来西亚已先后宣布暂时封禁 Grok。

多国监管机构普遍认为，马斯克纵容 AI 工具随意生成未经他人同意的性暗示乃至儿童色情图像。" 未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。" 印尼监管机构负责人表示。

马斯克似乎对此不屑一顾。除了转发吐司机身着比基尼的照片外，他甚至也加入风潮，要求 Grok 给自己穿上比基尼。"Perfect. " 他说。针对媒体们的问询，xAI 均以自动邮件回复称，"Legacy Media Lies（传统媒体的谎言）。"

很难搞清楚 X 平台上的这股 "Put her in a bikini" 的风潮到底是何时兴起的，但媒体们开始普遍关注此事集中在新年前后，也就是圣诞及元旦假期期间。

英国《卫报》统计称，12 月中旬，X 平台上 Grok 收到的比基尼修改需求平均每天大概只有 10 到 20 个，但月底飙升至超 4 万个。《卫报》引述数字情报公司 Peryton Intelligence 分析称，相关趋势在新年期间蔓延至全球，1 月 2 日 Grok 共收到近 20 万个独立请求。

在新年前后，X 几乎已成为全球最大的 Deepfake 网站。彭 · 博社引述社交媒体与深度伪造研究专家吉纳维芙 · 吴（Genevieve Oh）的说法称，1 月 5 日至 6 日的 24 小时中，X 上的 Grok 平均每小时会生成约 6700 张性暗示图片。

吉纳维芙 · 吴统计了同期市场排名前五的 Deepfake 类网站，称这些网站平均每小时生成的 AI 脱衣图片不过 79 张。也就是说，X 平台上的 Grok 每小时发布的性暗示图片是其他网站约 84 倍。

许多女性都深受其害。她们往往只是在 X 平台上分享了一张个人照片，就被人用 Grok 生成比基尼或者其他性暗示图片大肆传播。而一旦她们公开发表不满，随即就会引发更多报复。一些用户会变本加厉地要求 Grok 将照片修改成更色情、更裸露的图片。

比如美国网红、与马斯克育有一子的阿什莉 · 圣克莱尔（Ashley St.Clair）公开反对相关行为后，就有人开始用她幼年图片生成比基尼照片。前段时间，一名女性在美国明尼苏达州被移民及海关执法局枪杀，枪击现场照片在 X 平台传播后，甚至有人利用 Grok 生成遇害者身着比基尼的照片。

网络观察基金会对外表示，他们在一个暗网论坛上发现了未成年人的色情化图片，上传者声称这些图片都是用 Grok 制作的。网络观察基金会是一个专注于打击儿童色情类内容的非盈利组织，该组织负责人对外表示，像 Grok 这样的工具现在有可能将儿童 AI 色情图像带入主流。

欧洲非盈利组织 AI Forensics 分析了 Grok 生成的 2 万多张图片以及 12 月 25 日至 1 月 1 日期间的近 5 万个用户请求，指出 Grok 生成的人物图像中，超过一半的人物身着暴露，其中 81% 的图像为女性，且有 2% 的图像人物似乎未满 18 岁。

元旦假期之后，多个国家监管部门开始着手对 Grok 及 X 平台上的 AI 色情泛滥展开调查。欧盟委员会公开表示不满且谴责 X 平台，欧盟数字事务发言人托马斯 · 雷尼耶（Thomas Regnier）称，Grok 的 Spicy 模式根本不是什么刺激，而是违法且令人作呕的。

包括英国、法国、印度、巴西、澳大利亚等多国监管机构开始对 Grok 及 X 平台展开调查或计划采取相关限制措施，印尼及马来西亚分别于 1 月 10 日及 11 日暂时封禁 Grok。美国亦有部分参议员呼吁苹果及谷歌将 X 与 Grok 应用从应用商店下架。

马斯克最早对平台上的 "Put her in a bikini" 风潮不以为然，甚至主动玩梗。

除了转发吐司机及他自己身着比基尼的照片外，他也转发过微软创始人比尔 · 盖茨、英国首相基尔 · 斯塔默等名人身着比基尼的照片。一位 X 用户发帖吐槽说，自己的时间线仿佛变成了充斥着比基尼女郎的酒吧，马斯克用一个笑哭的表情回应。

但随着事态发展愈发严重，马斯克也不得不收起调侃口吻，开始正面回应平台争议。但他似乎并不认为平台应当承担责任，他对外强调，" 任何使用 Grok 制作非法内容的人，都将面临与上传非法内容相同的后果。"

紧接着，X 也公开对外表示，他们将针对平台上的非法内容如儿童性虐待采取行动，包括删除相关内容、永久封禁账号及与当地政府和执法部门合作等，试图对外表明平台态度。此后，X 限制了平台内 Grok 的使用范围，只有付费订阅用户才可以在 X 中使用 Grok 的图像生成和编辑功能。

但这些回应和限制措施并未平息争议。批评者认为，马斯克试图将责任归咎于使用 Grok 制作 "AI 脱衣 " 图像的用户，却回避了平台应承担的审核与治理责任。

X 此后将图像生成功能限制为仅向付费用户开放，更进一步引发外界质疑，好似这些功能更能刺激平台拉高订阅收入。此外，Grok 的图像生成功能虽不在 X 平台免费开放，但在 Grok 应用内仍可免费使用。

面对多国监管机构的批评和调查举措，马斯克的反应更为激烈，不止一次地批评其他国家对 Grok 和 X 的限制是在打压言论自由。尤其在英国首相斯塔默等人谴责 Grok 并要求 Ofcom 采取行动后，马斯克甚至直接称呼英国政府为 " 法西斯 "，怒骂英国是 " 监狱岛 "。

他举出的佐证之一是 Gemini 及 ChatGPT 等 AI 应用也均能将人物图片修改为身着比基尼的照片，但只有 Grok 和 X 陷入争议，称 " 他们想方设法地寻找审查制度的借口。"

过去一周，除了转发各类支持者们的言论外，马斯克做的最多的就是不遗余力地对外转发 Grok 在多国应用商店下载榜登顶的帖子，"Grok 正在越来越多的国家排名第一。"

马斯克或许忽略了 Grok 与 Gemini 或者 ChatGPT 的不同。Grok 直接内置在 X 平台中—— X 至今仍然是全球最大的社交媒体之一，每天有数以万计的用户在 X 上分享照片，用户无需跳转就可以直接在评论区中利用 Grok 来生成图像，传播力度和便捷程度都要比后两者大得多，更遑论 Gemini 或 ChatGPT 在隐私保护和色情内容限制上都要比 Grok 更加严苛。

Grok 在色情内容上争议性似乎也是由马斯克一手造成的。他治下的 Grok 最早就是以毒舌、大胆著称，马斯克自己也不止一次地对外反对 AI 的政治正确。在此次的色情争议之前，Grok 也曾因反犹及法西斯言论引起争议。

CNN 此前报道称，在 X 平台上 "Put her in a bikini" 大肆泛滥前几周，马斯克在一次 xAI 的内部会议上对团队表达不满，要求放松对 Grok 图像生成的内容限制。此后，三位 xAI 安全团队的核心人员辞职离开，包括产品安全主管和法务主管。

The Information 去年 11 月报道称，X 裁掉了半数负责信任和安全问题的工程团队员工。The Information 还报道称，X 员工担心 Grok 的图像生成功能 " 可能导致非法或其他有害图像的传播 "。

AI 的责任与边界

此次 X 及 Grok 深陷的色情内容争议，或许可以被宽泛地归类于 DeepFake（深度伪造）类色情内容在 AI 时代下的大范围复苏。

在生成式 AI 崛起之前，DeepFake 类色情内容已经在社交网络和色情网站上大规模出现，典型形式是把女明星的脸嫁接到色情视频演员身上。

2019 年，一款名为 DeepNude 的 AI 工具进一步将这类技术简化为 " 一键 AI 脱衣 "，用户上传女性照片就能生成裸体版本。但发布不久，DeepNude 就因巨大争议而不得不下线暂停运行。

此后，类似的 DeepFake 应用仍在部分黑灰产网站或 Telegram 群组中流传，但很少走进大众视野，也几乎无法触达类似于 Grok 在 X 平台中的造成的深伪色情泛滥程度。

某种程度上，AI 的技术进步或许进一步加剧了 DeepFake 色情内容的泛滥，甚至部分 AI 公司在模型训练时也会利用大量成人视频或色情小说数据，导致 AI 模型本身也会更容易生成色情化内容，比如 Meta 就因爬虫色情网站视频而遭到起诉。

AI 公司们或许也很难抵御色情内容带来的巨大流量和商业价值。姑且不提马斯克执著地要为 Grok 加入 Spicy 模式，将成人内容作为 Grok 的标签之一。此前一直对色情避而远之的 OpenAI 创始人萨姆 · 奥尔特曼，也曾对外松口要为成人用户开放情色内容。但截至目前，相关功能尚未真正上线。

曾在 2020 年至 2024 年间担任 OpenAI 产品安全主管的史蒂文 · 阿德勒（Steven Adler）公开反对奥尔特曼开放情色内容。在他看来，OpenAI 开放情色内容的做法是将利润与竞争放在安全之上。微软人工智能业务 CEO 穆斯塔法 · 苏莱曼（Mustafa Suleyman）也反对 AI 色情内容，称微软绝不会提供此类服务。

当前的主流 AI 应用均对色情内容做出了相关限制，比如谷歌禁止生成儿童性虐待或性剥削内容，也不得利用 AI 生成露骨色情内容。但在大公司之外，仍有大量初创团队主动介入 AI 色情领域。Meta 此前曾因违规投放广告而起诉一家总部位于香港的成人 AI 公司 CrushAI，该平台主打提供无过滤的成人 AI 聊天。

去年 9 月，" 国内 AI 服务涉黄第一案 " 一审宣判，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。两名被告人不服判决，已提出上诉。

对于马斯克来说，这类 AI 色情内容或许正是提高 Grok 用户活跃度的有效手段。自去年年中 Grok 推出 Spicy 模式以来，Grok 下载量与付费用户数不断走高。

根据 Appfigures 的统计，Grok 的去年第三季度的移动端收入已达到 1850 万美元，较第一季度增长 400%，增长幅度遥遥领先一众 AI 应用。Appfigures 称图像生成功能助推显著。

过去半个月来 Grok 及 X 虽然屡陷争议，但相关下载量同样飙涨。据追踪移动应用趋势的 Apptopia 数据显示，自 1 月 2 日以来，Grok 的每日下载量增长了 54%，而 X 的每日下载量在三日内增长了 25%。

过去一周来，Grok 已先后登顶法国、英国、日本、芬兰、新西兰、泰国等地 App Store 总榜第一。Grok 在 Google Trends 的搜索热度也创下过去半年来新高。