近期，中央网信办组织开展 " 清朗 · 整治 AI 应用乱象 " 专项行动第二阶段工作，聚焦利用 AI 制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理 AI 生成各类违法不良信息，依法查处违规账号和移动应用程序，有效遏制 AI 生成合成信息内容乱象，推动 AI 应用服务健康有序发展。截至目前，累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站、应用程序等 2400 余个。

专项行动期间，一批违法违规账号和应用受到处理。为进一步加强警示教育，现将部分典型案例通报如下：

利用 AI" 魔改 " 经典、生成 " 数字泔水 "

微博账号 " 天 ** 小 "、抖音账号 " 歪 ** 国 "、快手账号 " 小 * 菌 "、微信账号 " 咸 *i" 等，滥用 AI 技术 " 魔改 "《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量。相关账号已被依法依约处置。

AI 制作发布虚假不实信息

快手账号 " 云 ** 视 "、小红书账号 " 有 * 头 "、抖音账号 "7** 员 "、微信账号 " 长 ** 帆 " 等，利用 AI 生成合成虚假灾害现场、救援画面，编造不实社会热点信息，发布封建迷信内容，打造 AI 数字人进行虚假宣传带货，误导老年人，制造恐慌情绪。相关账号已被依法依约处置。

AI 假冒仿冒他人

抖音账号 " 特 ** 力 "、快手账号 " 石 *"、小红书账号 " 潮 ** 件 "、微信账号 "M** 勒 " 等，利用 AI" 换脸 "" 换声 " 等技术，假冒仿冒公众人物形象，生成合成低俗舞蹈、拥抱接吻等图片视频，借机营销牟利。相关账号已被依法依约处置。

制作发布暴力低俗等信息

哔哩哔哩账号 " 带 ** 着 "、抖音账号 " 波 **C"、快手账号 " 虾 ** 诡 "、微信账号 " 星 **7" 等，批量发布 AI 生成合成的含有恐怖诡异、暴力低俗等画面内容。相关账号已被依法依约处置。

AI 侵害未成年人权益

小红书账号 " 小 ** 娃 "、微信账号 " 豆 *a"、抖音账号 " 半 ** 历 "、快手账号 " 若 ** 雪 " 等，发布 AI 生成合成未成年人怀孕、打架等与其年龄特点不符的内容，批量制作传播 " 毒动画 "、儿童 " 虐向 "" 邪典 " 视频，伤害、恶搞未成年人形象，影响未成年人身心健康。相关账号已被依法依约处置。

利用 AI" 托管 " 从事网络水军活动

微信账号 " 涛 ** 客 "、微博账号 "A** 师 "、抖音账号 " 风 *" 等，为 AI" 托管 " 软件引流，模拟真人运营账号、评论互动，生成大量低质同质文案。相关账号已被依法依约处置。

AI 产品服务和应用程序违规

"N**t"" 穿 ** 元 "" 甜 * 圈 "" 芋 **o" 等网站平台多个智能体封面、简介和生成对话中含有淫秽色情及其他危害未成年人身心健康的信息，严重破坏网络生态。对拒不改正的，依法予以查处，按程序采取警告、罚款、下架或关闭等措施。

下一步，网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注 AI 生成合成内容新情况新风险，及时采取有效措施防范 AI 技术滥用恶用，持续为人工智能创新发展营造良好环境。

来源 网信中国

编辑 周欢 /编审 黄聪 /签发 蒲谋