早在生成式人工智能（AIGC）、大语言模型走红的 2023 年年底，就曾有不少从业者预言 AI 将会成为互联网虚假内容的 " 制造机 "。现实也确实如此，仅仅过去不到两年时间，"AI 污染互联网 " 就已经成为了诸多网友的共识。

作为压实平台主体责任的一环，抖音近日再次出手，"AI 抖音求真 " 功能目前已正式上线。根据抖音方面介绍，当用户浏览到容易产生误解的内容，或是搜索谣言相关的信息时，就能够通过 "AI 抖音求真 " 获知事件的完整信息，了解相关辟谣内容。

抖音相关负责人表示，近期已将大模型技术应用于谣言治理，7 月以来平台谣言曝光量下降 67%。以往的谣言治理往往需要依靠媒体报道或机构发声，有了辟谣信息就能将谣言信息点人工纳入谣言库，并以此为样本，回查、下架和拦截新增的同类谣言内容。

具体来说，"AI 抖音求真 " 依托于抖音训练的 " 谣言治理大模型 "、" 资讯大模型 "，以及专门的辟谣运营团队，实现了精准定义 " 内容误导性 "、" 公共价值 "、" 可证伪 " 等谣言特征的能力，做到 " 化被动为主动 "，主动审查平台上到达一定热度的内容，并通过提取视频信息、分析主旨、联网搜索，来完成对内容是否为谣言的风险判断。

当然，"AI 抖音求真 " 也并非万灵药，抖音副总裁李亮就在社交平台上表示，"AI 识谣辟谣是一个新尝试，可能还存在一些不准确、覆盖面不够完整的情况，我们会持续提升。也欢迎大家在浏览视频和搜索场景，多体验，多给产品功能提意见。"

兜兜转转一圈后，抖音最终还是选择了 " 以 AI 治 AI"。作为 AI 时代的弄潮儿，互联网大厂对于 AI 的破坏力显然心知肚明。早在此前的百模大战刚刚开打时，抖音、快手、知乎等内容平台就开始要求创作者主动添加 " 内容由 AI 生成 " 的声明。

只可惜，创作者普遍相信一旦打上了这个标签，自己的作品就必然会被限流。其实这种阴谋论在创作者群体中有市场的原因也很简单，因为内容平台对于 AI 可以说是又爱又恨，既希望 AIGC 能实现内容的多元化、从而丰富内容池的深度和广度，又不愿意看到低质量的 AIGC 内容污染自家内容生态。

以彼时 AI 大模型的水平，绝大多数使用 AI 生产内容的创作者还很难做出高质量的作品。再加上最初一批准备使用 AIGC 的创作者往往 " 目的不纯 "，他们对于这个新技术敏感的原因，往往是在上个时代通过 " 内容农场 " 赚到钱了。但相比自动化脚本，基于多模态大模型的 AIGC 与人类创作的界限就更加模糊。

" 内容农场 " 的自动化脚本，也就只能写写 "XX 到底是怎么回事呢？XX 相信大家都很震惊，但是 XX 到底是怎么回事呢，下面就让小编带大家一起了解吧。" 随着网民们被这种生硬呆板的 " 小编体 " 拷打多了，自然也就会对其脱敏。再说了，" 小编体 " 由于呆板也很容易被平台的算法过滤。

可反观 AIGC，它之所以会出圈，就是因为表达能力与人类实在太过接近。但由此又诞生了另一个问题，那就是为了让 AI 表现出与人类相似的智能，OpenAI、字节跳动等大厂可谓是穷尽一切，使得 AI 与人类进入了 " 安能辨我是雌雄 " 的状态。

与此同时，流量分成依然是互联网内容平台坚持的政策。既然有利可图，当年做 " 内容农场 " 的人现在做 "AI 农场 " 也就顺理成章了，可偏偏平台没法自废武功，毕竟取消流量分成会极大打击正常创作者的热情。由于指望消灭无良创作者用 AI 牟利的企图不太现实，所以平台也就只能尝试用技术手段来解决这个问题。

那么 "AI 抖音求真 " 能解决抖音平台的 AI 虚假内容吗？事实上，这一招在短时间内还只能做到 " 治标不治本 "。因为 "AI 抖音求真 " 依托的 " 谣言治理大模型 " 是通过联网搜索来判断内容的真假，模型的搜索信源则来自权威媒体报道、政务公开平台，以及历史谣言库样本。

所以这就导致 "AI 抖音求真 " 对于以往存在的谣言类型会有效，但对 " 新鲜事 "、" 新花样 " 可能就有力未逮了。换而言之，"AI 抖音求真 " 的效能主要依托于 " 谣言治理大模型 " 的迭代速度，如果它的进化能跟上 AI 虚假内容的发展，那么用 AI 来治理 AI 就是有效的。可要是权威媒体没有报道相关内容，"AI 抖音求真 " 就只能给出 " 存疑 " 的判断了。

【本文图片来自网络】