8 月 26 日，小红书薯管家发布 " 清朗 · 整治 AI 应用乱象 " 第二阶段治理成效。

据介绍，自专项行动第二阶段开展至今，平台共处置违规笔记 15 万余篇，违规账号 1400 余个。

在具体治理举措上，小红书搭建起存量清理、增量拦截的闭环处置链路，建立风险线索快速响应机制，强化新增风险的前置拦截工作。同时，平台阻断违规商品以及黑灰产相关交易，针对搜索、推荐环节加强管控，强化 AI 问答模型安全管理。

除此之外，小红书推出 "AI 知识包 "，薯管家推出 " 这些 AI 套路你中招了吗 " 系列知识包，引导用户合规使用 AI 工具，防范 AI 生成虚假内容的误导与欺骗。

典型案例 1：利用 AI 歪曲古典名著，传播价值观扭曲内容

账号 " 大＊法 "" 小＊3" 等，利用 AI 技术 " 魔改 " 古典名著《西游记》，植入低俗内容，歪曲解构古典名著精神内涵，存在不良价值导向。

典型案例 2：利用 AI 生成虚假信息，传播涉及社会时事的谣言

账号 " 小＊5"" 小＊F" 等，利用 AI 生成传播虚假极端天气信息，散布谣言，易引发民众恐慌。

典型案例 3：利用 AI 换脸换声假冒公众人物

账号 " 值＊你 "" 唐＊活 " 等，利用 AI 换脸换声假冒知名公众人物，引流带货、营销牟利。

典型案例 4：利用 AI 制作虐待血腥、恐怖猎奇或低俗擦边内容

账号 " 蜜＊智 "" 懵＊飓 " 等，利用 AI 制作发布恐怖惊悚、诡异猎奇画面，破坏社区生态，影响用户身心健康。

典型案例 5：利用 AI 生成伤害未成年人的内容，制作儿童 " 邪典 " 及无底线二创动画

账号 " 我＊人 "" 王＊叨 " 等，以《熊出没》《小猪佩奇》等未成年人喜爱的动画形象为原型，利用 AI 制作带有不良价值观的二创动画；账号 " 小＊戏 " 等，利用 AI 制作伤害未成年人的内容，影响未成年人身心健康。

典型案例 6：利用 AI 托管账号批量注册，批量发布同质化文案

账号 " 小＊发 " 等，发布教授利用 AI 工具批量注册账号、矩阵化运营账号的推广教程信息，助长网络水军活动。

典型案例 7：推广仿冒套壳 AI 应用，色情陪聊等服务课程

账号 " 小＊2" 等，推广售卖违规 AI 产品和服务，采用作弊手段搭建国内中转服务器，为境外 AI 服务平台引流。