请在 AI 面前保持清醒 | 图源：豆包 AI

作者／   IT 时报   潘少颖

编辑／   王昕   孙妍

最近刷到很多 6 · 18 的直播和视频：西装革履的 " 权威专家 " 侃侃而谈保健品功效，明星声情并茂地推荐 " 回到 18 岁 " 的美容产品……连续刷到多次此类视频后，难免会产生 " 不买吃大亏 " 的感觉。

但是，这些都是真的吗？

在 AI 内容浓度越来越高的购物节，你可能看了一下午，都没遇到一个真人。所谓的 " 专家 " 是 AI 换脸合成的，那张明星脸也是 AI 生成的，那个清仓甩卖的 " 工厂老板 " 甚至只是一个用文本驱动嘴型、AI 配音的数字人。

普通人的分辨能力已经越来越难应付日益能耐的 AI ——画面太流畅，表情太自然，根本看不出破绽。

近日，中央网信办全面部署推进短视频内容规范标注工作，在抖音、快手、腾讯等 12 家平台先行先试的基础上，将内容标注设为短视频发布的硬性前置流程，明确平台必须提供 6 类 " 必选标签 "，包括 " 含有 AI 生成内容 "" 含有虚构演绎内容 "" 含有营销信息 "" 内容为转载 "" 内容为个人观点 " 和 " 无需标注 "，发布者必须从 " 必选标签 " 中选择一项才能发布，过往发布的存量视频也要逐一补标。

图源：百家号

中央网信办想解决的核心问题是：让你知道你看到的东西是 AI 做的。

今年上半年，AI 换脸诈骗案同比大幅上升，一台电脑、一套免费工具，几分钟就能换脸、复刻声音、合成视频，造假成本趋近于零。福建一位企业主，10 分钟被 AI 换脸的 " 好友 " 骗走 430 万元。在 6 · 18 期间，多地市场监管部门专门发布消费提示，提醒消费者 " 警惕 AI 造假 "。

AI 造假不止发生在视频里，图文内容同样是重灾区。就在 5 月上旬，全国首例 AI 代写 " 种草笔记 " 案宣判，法院认定这类 AI 工具的运营者构成不正当竞争，判赔 10 万元。

对于创作者和平台来说，标注已成为一种义务。但另一边，网上 "AI 去水印 "" 无痕除标识 " 的生意依然红红火火，几十元的基础工具、上千元的定制服务，明码标价—— " 合规者在照做，违规者在绕过 "，平台的标注随手可破。

另外一个问题是，用户 " 对 AI 脸生理性厌恶 "，有媒体报道，一项基于数百名用户参与的研究发现，标注为 "AI 生成 " 的内容，用户的行为参与度会断崖式下跌 14 到 16 个百分点。

行业数据也在印证这一趋势，2026 年第一季度，国产微短剧产量中，AI 生成短剧占 95%，但真人短剧虽只占 5%，总播放量却是 AI 的约 25 倍。

这意味着在消费端，用户对 AI 内容正在产生本能的抵触。生产端在拼命用 AI" 印刷 "，消费端在用手指 " 划走 "。

到底什么样的内容才算 "AI 生成 "？

如果一段视频只是用了 AI 辅助翻译字幕，算不算？如果只是用 AI 调了个色，算不算？在电商场景里，商家用 AI 生成口播稿、用 AI 做客服，这些算不算需要标注的 "AI 生成 "？

一般而言，只有视频画面、人物、语音由 AI 合成创作，也就是使用 AI 换脸、AI 配音、AI 生成虚拟人物或视频本身由 AI 从零创建的内容，必须打上 "AI 生成 " 标签。AI 辅助翻译字幕、AI 调色这类后期辅助工具，并不在强制标注范围内。

但在实际操作中，边界并没有那么清晰。一段视频可能用 AI 做了部分处理，也可能完全由 AI 生成，模糊地带很多。平台不仅要核验用户是否主动标注，还要用算法自动识别那些漏标的内容。但算法的判断并不一定准确。此前北京互联网法院就有一个判例，平台仅靠算法判定某用户内容为 "AI 生成 " 并对其隐藏内容并禁言 1 天，结果被法院认定缺乏事实基础、构成违约。

随着短视频内容规范标注工作的推进，平台加大审核力度，这类 " 误伤 " 的情况可能会更多，谁来界定边界、如何保证判定公平，仍是一个需要持续关注的问题。

回到最初的问题：一个标签，能拦住什么？

图源：视频号

那位被 AI 换脸骗走 430 万的郭先生，视频开头如果有个 "AI 生成 " 标签，他还会转账吗？显然不会。诈骗分子压根不会让他看到标签。

似乎 "AI 生成 " 的标签，只防君子，不防小人，拦不住蓄意诈骗的人，也拦不住 AI 内容总量的增长，6 · 18 的商家绝不会因为要贴标签就不做 AI 直播了。

" 标签 " 真正能做的，是为每个普通用户多争取一些思考时间。看到一个视频，先看标签，再判断内容；涉及转账的，打电话确认；看到一个感人故事想转发之前，先想想它是不是 AI 编的。

在 AI 造的内容越来越多、真假边界愈发模糊的时代，防线的最后一米，不在那个 " 标 " 签上，仍在每个人自己手里。

DeepSeek：标签的意义或许不在于 " 拦住坏人 "，而在于重构信任的底层协议。就像食品包装上的成分表，不会阻止造假者，却能帮消费者建立理性的选择预期。AI 标签的真正价值，不是防伪，而是让 " 真实 " 重新成为一种稀缺资源——当每段内容都带着来源声明，用户的注意力才会从被动接受转向主动甄别。这不是防线的终点，而是认知免疫系统的起点。

千问：AI 标签虽能防君子，却难挡蓄意作恶的 " 小人 "，这揭示了技术治理的局限性。面对真假难辨的数字洪流，真正的防线不在外部强制的 " 标 "，而在个体内心的 " 醒 "。当 AI 能轻易伪造视觉与声音，人类唯有保持批判性思维与审慎的验证习惯，才能守住认知主权。技术越是逼真，我们越需清醒：不被算法裹挟，不向技术让渡思考权，才是数字时代最核心的生存素养。

星辰：标签治标不治本，问题的根在企业端——用 AI 量产内容获利的是平台和商家，承担鉴别成本的却是用户，这是责任倒置。与其要求每个人练就火眼金睛，不如倒逼源头：未标注 AI 内容造成损害的，平台与商家应承担连带赔偿。防线不在个人手里，而在制度里——当造假的收益不再远大于代价，"AI 标签 " 才有真正的意义。

排版／ 季嘉颖

图片／ 百家号   视频号   豆包 AI

来源／《IT 时报》公众号 vittimes

E   N   D

大家都在看

IT 时报

IT 时报粉丝

「挨踢妹 @AI 茶水间」

扫码即可加入↓↓↓

请加「星标」不错过我们