生成式 AI 出现后，标题党、小编体、擦边内容的制作门槛正变得越来越低。

在现代技术的加持下，这些低质内容、谣言的传播力、说服力、伪装性，也迎来了空前强化。

可以说。

随着技术的不断发展，一场没有硝烟却与所有人息息相关的 " 认知战争 " 正在打响。

头条用魔法打败魔法

在 2024 年，平台所拦截的不实信息超 500 万条，封禁造谣、传谣等违规账号 4.77 万个；处置低质量 AI 内容超 93 万条，封禁、禁言相关账号超 2.9 万个；处罚同质化发文超 781 万篇，封禁、禁言违规账号超 6.3 万个。

对平台而言，虚假、低质内容的出现会破坏平台生态，降低优质创作者的更新热情；对用户而言，虚假、低质内容的出现不仅会左右自己的事件认知，甚至还可能影响我们的深度思考能力、道德价值判断。

所以在这场认知战争中，平台作为内容的保管方 + 审核方，它们必须冲锋在前。

依托谣言库所建立的大模型，可以通过关键词抓取、内容比对等方式快速验证信息的真伪；权威信源库的存在，不仅能帮助谣言库、审核人员进行信息判定，还能够在定位谣言后进行精准辟谣；人工审核团队搭配 AI 审核机制，让平台内部 " 风险发现 - 风险识别 - 风险处置 " 的治理流程更加灵动可靠，在守护原创空间之余净化了用户的阅文环境。

想要击败对手，就不能一味加固自己的盾牌，还要磨利剑锋。

抖音剑指虚假信息

1 月 26 日，抖音发布了 2024 年平台治理报告。

报告内容显示，2024 年，抖音累计删除谣言 452 万条；提前拦截谣言 340 万条；处置涉企谣言视频 4.8 万条。

另针对老年人易受骗一事，抖音日均下架违规视频 5000 余条；每日成功劝阻约 1 万人。

需要注意的是。

谈及此事，抖音集团副总裁李亮曾坦言称：" 其实，怎么识别摆拍是治理难点，一些媒体有时也会误把段子当作新闻来报道。"

在摆拍乱象面前，抖音给出的答案是 " 专项核实 "。当某个事件达到特定的热度阈值或收到举报后，平台便会联系当事人或邀请当地媒体进行真实性核查。在没有明确的调查结果前，平台会暂停相关内容的推荐，以此来确保信息真实性。

2 月 13 日，字节跳动全员会上，CEO 梁汝波特意提到抖音要做好虚假信息和谣言的治理，对无底线博流量的行为展开打击。

据悉，目前抖音除准备安全与信任中心，去推动算法和平台治理透明化外。还针对网友们关心的不同问题，推出了不同的治理方案。

比如。

针对争议内容，抖音将扩大同权威媒体、机构的合作，在各类热点事件中加强人工研判与核实；针对优质内容，抖音将加大扶持力度，预计在 2025 年增加 300% 的优质内容曝光；针对信息茧房，抖音将进一步完善推荐算法，加强内容多样性探索、兴趣探索和匹配等机制去补充推荐信源。

学会让子弹再飞一会

想要取得认知战争的胜利，除了靠各平台把好审核关以外，用户自己的大脑防火墙构建也十分重要。

举个例子。

近期，互联网上有关 " 截至 2024 年末，80 后死亡率突破 5.2%，相当于每 20 个 80 后中就有 1 人已经去世 ""80 后的死亡率已经超过 70 后 " 的内容广为流传。

通过进行延伸搜索，我们发现这些借 "80 后死亡率 " 来博取流量的内容，大多称自己的数据来源为 2020 年所进行的第七次人口普查。

那么问题就来了。

一份出自 2020 年的报告，又是怎样得到 "2021 年 -2024 年的人口死亡数据 ""80 后在 2024 年的死亡率、存活率 " 的呢？莫非它学会了时空穿梭？

中国人民大学教授李婷在内容溯源后表示，这一错误信息的源头可能是 AI 对话。

总所周知，AI 没有意识。

与其说它掌握了和人类对话的能力，倒不如说它掌握了 " 词语接龙 Plus 版 "。

在互动过程中，AI 往往会根据提示词、对话历史进行延伸搜索，并在数据库里抓取对应的内容进行回复。

倘若用户提出的要求过于 " 抽象 "，它就会因为数据库无法锚定而出现 " 幻觉效应 "，开始一本正经地胡说八道；或是被互联网上的非权威信源所误导，在自己生成的结果里掺杂错误的数据或内容。

除此以外，那些想要用 AI 截图传播谣言的恶意分子，还可以通过 " 角色扮演法 "" 复读游戏法 " 等途径去生成特定信息，混淆人们的视听。

这类情况的出现，恰好为我们敲响了警钟。

在今天，有太多人对 AI 呈现出了一种错误的 " 信任 "，去盲目认为 AI 所给出的内容、数据都是绝对准确、权威的。

殊不知，AI 也会犯错，AI 也会被人操控。

在日益复杂的网络生态面前，每个人都将是认知战争的亲历者和参战者。想要取得最终的胜利，除内容平台本身要去强化审核机制外，我们每个人也都应该在大脑里建立 " 信息防火墙 "；在按下转发键之前，学会 " 让子弹再飞一会 "。

参考：

新京报：抖音年度治理报告：不当言论展现量降 63%，将建安全与信任中心

每日经济新闻：打击网暴及谣言、整治 " 信息茧房 " ⋯⋯推进算法和平台治理透明化，抖音出手了

光明网：" 每 20 个 80 后就有 1 人去世 "？谣言！罪魁祸首可能是 AI

科学辟谣：警惕！全网热传的的 AI 截图可能正在成为新的谣言制造机！