快科技 2 月 19 日消息，上月，X 平台（原推特）在全球监管重压下，正式封禁了旗下 AI 聊天机器人 Grok 的 " 比基尼模式 "，禁止其将真人照片编辑成穿着暴露服装的图像。

这一举措源于 Grok 被广泛滥用，用户通过标签 @grok 就能生成未经同意的性化深度伪造内容，甚至涉及未成年人，引发 " 赛博性暴力 " 争议。

据了解，Grok 的图像编辑功能曾允许用户上传照片并生成穿着比基尼、内衣等暴露服装的版本，每小时产生数千条违规内容，数百名女性和儿童成为受害者。

印尼、马来西亚率先封禁 Grok 服务，英国通信管理局 ( Ofcom ) 启动正式调查，欧盟委员会也发出严厉警告。

本月 18 日，英国政府进一步升级监管，提出 AI 不雅内容紧急删除新规：

要求科技公司在 48 小时内删除平台上未经同意的私密图像、性化深度伪造内容等侵害性图片，违规平台将面临全球收入 10% 的巨额罚款，或被禁止在英国提供服务。

Ofcom 正考虑对私密图像实施数字标记，实现类似儿童性虐待材料的自动删除机制。

这一新规是对《在线安全法》的补充，此前英国《数据法案》已将未经同意制作私密图像定为刑事犯罪，首相基尔 · 斯塔默强调：" 没有任何平台能获得免费通行证，必须保护民众尤其是儿童免受非法 AI 内容伤害 "。