据央视新闻报道，生成式 AI 广泛应用，迭代迅速，给生活带来了不小的改变。技术普及大幅降低了生成式 AI 的使用门槛，从 AI 视频生成到 AI 聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式 AI 大模型，行违法 " 造黄 " 之举，污染网络空间、败坏社会风气。

按照消费者举报的线索，记者在多个互联网平台上进行了检索，眼下，不少平台上有人在公开兜售 " 利用 AI 技术制作色情擦边视频 " 的教程，号称仅凭一张图片，甚至几句话就可自行 " 手搓 "" 让自己满意的大尺度视频 "。

记者以 9.9 元和 9.8 元的价格，分别在 " 万象小店 " 和 " 楠楠素材库 " 下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材，到姿势、表情甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。

记者对用户使用较多的 10 款 AI 应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为 " 露骨 "，多数 AI 应用会触发审核机制并拒绝生成内容。然而，这条防线却很脆弱。只要将提示词修改得更加隐晦，便有可能绕过限制。

例如一款拥有 1.4 亿用户的某知名 AI 应用，记者按照购买的提示词教程，选取了一张美女图片，并随意选取一段提示词，点击生成。一分钟后，一个美女擦边视频便生成了，视频中的女性身材火辣、穿着暴露、舞姿暧昧。

在这款名为 " 哩布哩布 AI" 的 AI 应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个 AI 平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制，违规视频顺利生成。同样的问题也出现在市场上其他常见的 AI 应用平台上。

AI 的可定制性让其高度拟人化，通过投喂数据，用户可以将 AI 虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象，因此，与 AI" 谈情说爱 " 正被越来越多年轻人尝试和喜爱。

记者在某社交媒体平台上搜索 "AI 语聊 "，在搜索结果中看到，大量以 " 可开车、脸红心跳、开放、无限制词 " 等为关键词的帖子。点开帖子，记者在评论区中随处可见用户发送各种无限制词的 AI 聊天软件使用分享，以及软件的下载链接和邀请码。

专家告诉记者，App 上架有一系列审核要求，它不光是一个下载的渠道，同时也有安全审核的义务。如果是境外软件，可能没有人审核，手机下载之后，可能带来病毒或其他信息安全隐患。

2025 年 4 月网信办开展的 " 清朗 · 整治 AI 技术滥用 " 专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的违规 AI 产品。

2026 年 4 月 10 日，《人工智能拟人化互动服务管理暂行办法》正式公布，《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务做出了相关规定。