快科技 1 月 15 日消息，日前，马斯克旗下 xAI 公司的 AI 聊天机器人 Grok 因涉嫌生成色情内容，在全球范围内引发巨大争议。

据央视新闻报道，美国加州总检察长罗布 · 邦塔在社交平台发文称：" 我们要求 xAI 立即就其如何计划阻止此类内容生成和传播给出明确答复。"

马斯克表示，并不知道 Grok 生成过任何裸露的未成年图片。

目前，Grok 因相关争议在全球范围内面临监管与舆论双重压力，多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。

据了解，因担心其可能生成色情内容，印度尼西亚上周已暂时封禁 Grok，成为全球首个禁止访问该人工智能工具的国家。

随后，马来西亚也对 Grok 实施临时访问限制。

马来西亚通信和多媒体委员会发布声明称，此举是由于 Grok 被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容，其中包括涉及女性和未成年人的图像。

据悉，Grok 内置于马斯克旗下社交平台 X，X 用户可直接调用。

近期，X 平台上出现部分用户利用 Grok 编辑图片和视频的情况，一些人借此生成真实人物的虚假性暴露内容并进行传播，受害者包括数百名成年女性及未成年人。