去年，上海浦东海滩女童走失事件中

一造谣团伙以 " 标题党 "" 震惊体 " 方式

恶意编造炒作了一系列谣言牟利 4 万元

社会知名人士离世消息竟然是 AI 凭空杜撰的谣言

……

近年来，网络谣言出现了新动向，不法分子往往紧跟社会热点、突发事件，通过无中生有蹭热点、夸大其词带节奏、恶意拼接博眼球，加之利用 AI 人工智能新技术，叠加引爆社会舆论，使网络谣言具有极强的传播力和破坏力，对社会秩序带来严重危害。

记者今天从市公安局新闻发布会上获悉，去年 12 月，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作、造谣生事等网络违法乱象开展全力集中整治，依法从严快处网络造谣违法人员、全链条打击网络谣言犯罪、持续开展网络谣言生态综合治理。

截至目前，累计查处网络谣言 384 起，依法查处造谣传谣人员 530 余人，清理网上谣言信息 53000 余条，依法关停违法违规账号 5000 余个，坚决维护清朗有序的网络环境。

" 震惊体 " 谣言更具煽动性、迷惑性

2023 年 10 月 4 日傍晚，一名 4 岁女童在上海南汇新城海滩走失，引发全网关注。期间，一造谣团伙就以 " 标题党 "" 震惊体 " 方式恶意编造炒作了一系列诸如 " 女孩父亲系继父 "" 女孩被带往温州 " 等谣言，并通过批量注册网络账号，进一步转发炒作，阅读量超百万，而该团伙仅通过炒作这一事件的谣言就非法获利 4 万余元。

警方进一步调查发现，该团伙还围绕各类全国性社会热点，在各大平台高频发帖、转载虚假负面信息，牟取不法利益。目前，团伙中 12 名成员已被依法移送起诉，涉案相关网络账号已被全部封禁。

据市网信办介绍，针对该事件产生的不实言论，市网信办协同网安部门及相关平台迅速处置，清理造谣传谣、网络暴力、人身攻击等有害信息 4600 条；对散布谣言、" 人肉 " 网暴的 724 个账号予以禁言、禁评等阶段性处置措施。

市公安局网安总队政治处主任韩欣毅表示制造和传播谣言的多数目的是攫取经济利益。这些不法团伙有分工地在网上搜集相关热点事件视频、图片，恶意拼接，制造所谓的 " 八卦 " 谣言，再利用大众猎奇心理，或是创建收费 " 吃瓜群 "，或是批量注册网络账号，诱使网民其点击相关付费链接，进一步收益牟利。在炮制此类网络谣言时，不法分子往往紧盯社会热点事件，使用 " 发现爆款新闻 "" 骇人听闻！"" 丢人现眼！" 等夸张的标题和 " 新、奇、特 " 的内容，杜撰所谓的 " 震惊体 " 文章，使得谣言更具煽动性、迷惑性，以获取更多流量和关注度。

" 网络水军 " 为境外黄谣网站非法引流

今年 3 月，根据市公安局网安总队的工作线索，徐汇分局网安支队发现有人利用热点事件当事人姓名、形象传播虚假图文视频、为不法网站引流，随即会同总队对谣言首发和传播链开展全面梳理排查，查明首发人员及传播扩散重要环节，最终发现了一批在境内长期经营聊天账号群、为各类境外黄谣网站发布引流截图链接的 " 网络水军 "。

经过前期充分侦查，2024 年 3 月 10 日，专案组赴外省抓获涉嫌非法利用信息网络犯罪的嫌疑人吴某、林某和梁某等 3 人。

▲警方供图

据 3 人交代，自 2023 年上半年以来，梁某介绍吴某、林某等同乡人员，通过所谓的招聘兼职广告与境外不法网站取得联系从事所谓 " 资料发送员 " 工作，并建立经营大量 QQ 群组，用于发送资料为网站引流。相关境外网站对接人每天会把需要群发的内容发给 3 人，再由 3 人转发带有视频截图和网址的图片，引诱他人点击登录网站观看视频。

梁某等 3 人明知这些视频都是为 " 蹭热点 " 而炮制的或 " 张冠李戴 " 或 " 移花接木 " 的虚假内容，仍转发至各自建立、经营的大量聊天账号群中，引诱 " 吃瓜群众 " 点击观看，为网站获取流量，为谣言事件推波助澜。截至案发，3 人共建立了 230 余个微信群，每个群 80-160 人不等；他们每次将已发布信息的聊天截图发至工作群，以此与境外网站结算工作量，每月以虚拟币方式获取引流收入，共非法获利 30 余万元。

2024 年 3 月 28 日，通过深挖扩线，专案组又在多地另案抓获同类型的网站 " 资料发送员 " 罗某、张某等 4 人。经查，4 人系各自独立作案，分别通过朋友介绍或通过网站广告与境外网站取得联系，从事非法引流活动。截至案发，4 人共非法获利 7 万余元。目前，7 人因涉嫌非法利用信息网络罪已被依法采取刑事强制措施。

▲警方供图

警方呼吁广大群众，在涉及敏感话题、热点事件时，应注意通过多渠道、多角度核实信息真实性，" 让子弹飞一会儿 "，不轻易转发未经核实的信息。同时，不明网站链接要谨慎点击，避免个人信息泄露，被不法分子利用牟利。

利用 AI 技术炮制 " 爆点 " 谣言

2024 年 2 月，长宁分局网安支队民警在工作中发现，在某网购平台上出现了一则 " 某著名女星命运多舛、含恨离世 " 的短视频，引发大量点赞和转发，社会影响恶劣。经查，该视频内容完全系子虚乌有，视频内容也存在人为拼接痕迹。在对发布该视频的账号进行深入调查后发现，该账号之前也发布了大量以 " 名人去世 " 为噱头的短视频，全部为不实信息，影响极为恶劣。长宁警方依托打谣协作机制，将上述谣言信息流转至该网民户籍所在地吉林网警部门继续开展深挖调查。

经视频发布者杜某到案后交代，其在某网购平台上开了一家网店，平时主要经营土特产。由于销量不佳，杜某萌生了编造夺人眼球虚假新闻的方式给网店账号带 " 流量 " 的念头。因为杜某本人不会视频剪辑，便利用 AI 技术生成文本和视频，编造大量社会知名人士重病、离世等无中生有，夺人眼球的谣言视频。果然，这些短视频给杜某的网店带来了不少流量，正当杜某暗自高兴，准备进一步炮制该类视频的时候，殊不知自己的行为已经触犯了相关的法律。

目前，吉林警方已依法对杜某做出行政处罚，并将网络上所有的虚假视频全部清除，及时消除不良社会影响。

▲警方供图

人工智能技术的发展在一定程度上降低了网络造谣的技术 " 门槛 "，甚至仅凭搜索网上 " 爆点 " 和素材，便可通过 AI 凭空杜撰一篇帖文。一些不法分子为了提升个人账号知名度，利用 AI 工具，批量炮制虚假 " 爆款 " 帖文，制造一些耸人听闻的所谓 " 爆点 "，为自己赚取流量。今年以来，上海警方连续破获了 " 利用 AI 软件合成故意纵火虚假视频 "" 利用 AI 软件编造社会知名人士重病离世 " 等多起网络谣言案。

来源 / 上海法治报、光明网