IT时代网 21小时前
小红书永久封禁AI毒动画与软色情陪聊账号
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 时代网 8 月 5 日消息,小红书发布两份治理公告,一份通报涉未成年人违规内容的处置情况,另一份是暑期旅行安全专项。

先看数据。截至 8 月 4 日,平台在 " 清朗 · 未成年人网络保护 " 专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。

公告点名了三类典型违规。第一类是拿 AI 恶意篡改经典动画,有账号用 AI 技术炮制所谓 " 毒动画 ",把《天线宝宝》生成了恐怖版本,该账号已被永久封禁,相关笔记全量下架。第二类是诱导未成年人不良交友,有账号用 " 招裴 "" 无 hf" 这类黑灰产暗语作诱饵,把未成年人骗离平台去做软色情陪聊,同样永久封禁。第三类更极端,有账号发布 " 爱我就给我买刀片 " 等带自残倾向的图文,教唆未成年人伤害身体,账号封禁、内容清理。

小红书表示,风险识别模型已经升级,针对圈层暗语、变种图片这类刻意规避审核的手法做前置拦截。

旅行安全那一头,7 月以来平台针对危险旅游景点、虚假旅游信息展开治理,累计清理违规信息万余条。飞拉达漂流、悬崖秋千、赛里木湖游泳这些高危项目的笔记被搜索隐藏并限制流量,20 余组存在安全隐患的搜索词做了干预,还上线了安全提示条。

虚假引流那条产业链也在摸排。以 "AB 制 "" 旅行搭子 "" 拼车拼团 " 名义行骗的账号被集中处理,上半年平台配合多地警方抓获批量造假注册专业号的黑灰产团队 4 个、嫌疑人 14 名。旅游经营资质方面,处置虚假营销账号超 2000 个、无资质营销企业账号超 6000 个,无资质的个人及导游账号超 9000 个。

平台表态称,对侵害未成年人合法权益的行为 " 零容忍 ",会持续压实主体责任。

注:本文中包含 AI 辅助创作的内容。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 小红书 安全隐患 造假 嫌疑人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论