财经故事荟 3小时前
AI换脸第一刀砍向明星,杨幂全红婵都中招
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

11 月 2 日,演员温峥嵘竟在同一时间现身三个直播间。屏幕上分明都是她的脸,却透着几分诡异与谄媚,她一遍遍催促粉丝," 快下单!"

不明真相的粉丝,被 " 偶像 " 迅速 " 撬 " 开了钱包,殊不知,屏幕那端只是 AI 生成的幻影,一个没有灵魂的数字傀儡。

温峥嵘的遭遇,只是这场 AI 换脸侵权风暴的冰山一角。

从一线顶流到翻红老戏骨,乃至奥运冠军等,只要具备一定的辨识度和号召力,都可能成为 " 数字李鬼 " 的目标。这些 AI 仿冒明星账号的粉丝量,从几百、几千甚至数十万不等,构成了一个金字塔式的灰色流量生态。

当 AI 技术开始挣脱法律和道德的缰绳,在现实和虚拟的夹缝中,我们该如何守护真实的边界?链接可以下架,账号可以被封禁,可一旦信任遭透支,又该如何赎回?

未来,我们每个人独一无二的 " 数字身份 ",是否都将沦为被随意克隆、肆意滥用的猎物?

或许,明星们正在经历的今天,就是每个普通人即将面对的明天。

AI 李鬼肆虐!明星集体 " 中招 "

"对不起,温峥嵘,是我们错怪你了。"

镜头前,张柏芝面色凝重,对着镜头深深鞠了一躬。紧接着,刘涛、戚薇、舒淇等一众女星也陆续出镜,言辞恳切地表达着歉意和感谢。

这场看似真诚的 " 集体致歉 ",在社交平台迅速发酵。不少粉丝以为,这是明星之间的联动,毕竟致歉的缘起,是温峥嵘推荐的一款 " 人皮面膜 ",让众女星感叹 " 用晚了 "。

可真相却是,这场道歉的背后,竟藏着一场由 AI 编织的骗局。视频中所有明星的人脸,均来自 AI 换脸技术盗用。

AI 如同一个隐形的导演,将碎片化的影像剪辑、拼接,再配上伪造的台词,炮制出足以以假乱真的 " 集体致歉 ",让粉丝在不知不觉中掉入陷阱。

除了这类精心策划的骗局,AI 仿冒明星直播带货的乱像早已泛滥成灾。

早在今年 4 月,温峥嵘就曾发布打假视频,对着镜头郑重声明:" 我只有一个官方账号直播,其他所有以‘温峥嵘’之名带货的直播间,全是假的!"

彼时,她的声明并未引起足够的重视。

直到电视剧《许我耀眼》热播,她凭借 " 赵露思婆婆 " 一角精湛的演技再度翻红,冒用其形象卖货的直播间也悄然增多。

其粉丝曾在一天之内举报了 18 个 " 假温峥嵘 " 直播间,但往往 " 举报一个又冒出来一个,如同打地鼠游戏,永无止境。"

更荒诞的是,某个深夜, " 温峥嵘 " 竟以三种不同妆发造型,同时出现在三个直播间。

当看见 " 自己 " 在直播间谄媚又怪异地催促粉丝," 宝贝们,快下单!",她又惊又怒,直接质问," 你是温峥嵘,那我是谁?" 结果却被踢出了直播间并拉黑。

温峥嵘的遭遇并非个例,如今越来越多明星沦为 " 数字李鬼 " 的猎物。

今年 2 月,北京市海淀区市场监管局接到消费者举报:某直播间正在售卖 " 深海多烯鱼油 ",主播竟是央视主持人 " 李梓萌 "。

身穿职业套装的 " 李梓萌 ",语气严肃地强调:" 正品保证,假一罚四!鱼油必须吃起来,吃了这个,别的咱都不用再吃了!"

直播间展板更赫然标注 " 适合头晕头痛、手脚麻木、记忆力下降人群 " 等医疗宣传语。

其实,视频中的 " 李梓萌 " 纯属 AI 技术伪造。宣称 " 能治病 " 的深海鱼油,执行标准实为糖果,不具备任何治疗功能。

这是北京查处的首例滥用 AI 技术发布虚假广告案,而类似骗局早已在网络空间蔓延。

有人在某电商平台看见 " 迪丽热巴 " 在卖 10 块钱的素颜霜。奥运冠军全红婵、孙颖莎、王楚钦等人,也都曾是 AI 克隆技术的受害者。

一个账号盗用全红婵的声音卖土鸡蛋,视频中模仿其稚嫩的腔调说道:" 大家好,我是你们的婵宝,今天有事请大家帮忙,婵妹就是想帮助妈妈,让家里的生活过得更好一点。"

这条充满 " 情感共鸣 " 的虚假视频,点赞量高达 1.1 万,商品链接显示已售出 4.7 万件。而全红婵的家人早已公开澄清,她从未为相关农产品代言或授权。

这些 "AI 李鬼 ",不仅盗用了明星的脸,更窃取了他们积累多年的公众信任。而受损的,远不止明星个人权益,更是整个社会赖以运转的信任体系。

算法猎杀情感:AI 仿冒背后的精准诈骗

" 以前我们说‘眼见为实’,可现在眼睛看到的,可能是 AI 编织的谎言。" 一位粉丝在经历了 " 假明星 " 骗局后,发出这样的感慨。

" 宝贝,我爱你们,我也好爱好爱这款面膜,快下单吧!"" 克隆明星 " 的一声声呼唤,如同细密的针尖,精准刺入粉丝的情感软肋。

" 偶像推荐的东西肯定靠谱!"、" 已经下单了,支持偶像!" 直播间滚动显示的下单记录,营造了一种 " 手慢无 " 的紧张抢购氛围。

" 这个 AI 仿冒的温峥嵘把我妈骗得团团转,买了一大堆廉价护肤品。" 一位粉丝无奈吐槽。而另一位网友称,为了支持 " 偶像 ",一次性购买了 5、6 支低档口红。

" 我一直觉得她说话怪怪的,眼神也特别呆滞,但我妈说这就是她的偶像,还说偶像亲测有效了,非让我帮她下单。一款原价 100 多的韩国面膜,假直播间只卖 39.8 元,我妈一次就买了 20 盒。" 一位网友爆料,母亲已经在假明星直播间陆续花了近万元。

AI 技术本无善恶,可当它被恶意使用时,便成了最精准的情感猎杀工具。对诈骗分子而言,声音克隆、面部替换不过是技术手段,真正捕获受害者的,是对人性弱点的精准拿捏。

而从各大平台的评论区不难发现,受骗群体多以中老年人为主。

" 我妈看见明星卖货就想买,我告诉她是假的,她还跟我大喊大叫,说自己亲眼看见的怎么会是假的。" 一位网友的吐槽,道出了无数家庭的无奈。

但很多年轻网友坦言,自己也能理解父母被骗的遭遇。毕竟许多假冒明星的直播间,AI 仿冒效果十分逼真,年轻人尚且难以分辨,何况是对 AI 技术认知较为薄弱的老年人,

早在 5 月份,就有细心的粉丝察觉异常:" 我看见温峥嵘在俩直播间同时直播,一个穿着蓝裙子,有 1 万多人在线,另一个有 3000 多人。我在人少的直播间说,你这肯定是假的,立马就被踢出来了。"

但更多粉丝仍被 " 李鬼明星 " 所迷惑。

有的账号通过 AI 换脸技术冒充杨幂、刘亦菲卖减肥茶,诱导消费者疯狂下单。

在某平台,一个昵称像是乱码的账号,却拥有 3378 个粉丝,并通过 AI 仿冒温峥嵘带货视频,获得了 10.3 万次点赞。该账号的商品橱窗仅陈列面膜、眼油、防晒等 3 个商品,已售件数高达 5928 单,跟买人数是 5852 人。目前,该账号的作品及商品橱窗均已清空。

《财经故事荟》分析发现,仿冒账号带货商品高度集中在化妆品、护肤品、保健品、日用品等高频或者暴利品类,大多以 " 明星自用 " 为噱头。

这些商品的共同特点是目标群体广、利润空间大、质量难以直观判断,且极度依赖明星信誉背书,恰好契合了 "AI 仿冒 " 的诈骗逻辑。

平台明星用户都 " 受伤 "

截至 11 月 7 日,在某平台搜索 " 温峥嵘 ",仍可显示近百个相关账号。除个别授权 " 切片 " 账号外,大多数已转为私密状态。

事实上,温峥嵘团队早在今年 4 月就启动了维权,他们通过录屏、截图等方式保存证据,也曾投诉过 50 多个仿冒账号,成功封停了至少 20 多个直播间。

其团队工作人员坦言,造假者的成本极低,仅需截取一段影像,通过简易工具就能生成虚假内容,但维权取证却需耗费大量精力,即便发送了律师函,目前调查到的也只是一部分造假商家。

侵权者的手段远比想象中更为狡诈。许多账号擅长 " 打时间差 ",专挑凌晨 3、4 点这类平台监管薄弱的时间段进行直播,一旦账号被封禁,立刻更换 ID、头像,借新账号卷土重来。

而温峥嵘为何遭遇如此多 AI 造假?

答案在于,除了近期翻红之外,她本人就直播带货,这为造假商家提供了丰富 " 素材 "。第三方直播监测平台数据显示:温峥嵘抖音账号粉丝数 385.8 万,今年以来共直播 200 多场,场均观看人次近百万,所售商品品类中,美妆护肤类占比 54.19%。

而一份关于 " 温峥嵘肖像权网络侵权情况 " 统计表格显示,其被侵权的产品也大多是化妆品,价格从 300 多到 7.8 元不等。

面对这场席卷而来的 AI 侵权风暴,平台其实也是受害者。

抖音集团副总裁第一时间回应了 " 演员温峥嵘被 AI 盗播带货 " 事件。据他澄清," 三个直播间同时开播 " 的案例并非发生在抖音平台。

不过,AI 内容侵权识别是行业性技术难题,恶意仿冒账号也在不断地与平台进行技术对抗。

面对 AI 克隆明星,抖音的出手是最快的。今年 10 月,抖音电商已启动 " 仿冒名人宣传 " 专项治理行动。截止目前,已处置 1.1 万个违规带货账号、6700 多个违规商品,并对违规账号,采取中断其直播间、下架违规商品、冻结成交额等措施。平台还引导多位达人开启 " 阻止相同侵权内容传播 " 功能,已拦截数万条侵权视频。

但其他平台,同样存在 AI 克隆明星的侵权情况。

当信任被反复透支,当真实被不断模糊,最终受损的,是整个数字生态的健康稳定。

拆解 AI 换脸产业链

在小红书的角落,一条仅一人点赞的帖子,却隐藏着 AI 换脸交易的隐秘入口。帖子里是令人惊叹的 AI 融合效果演示。

《财经故事荟》以客户身份咨询:" 你们这 AI 换脸技术是怎么操作的?怎么收费?"

等了一个多小时,对方回消息称," 服务包含训练人脸模型、远程安装调试,再加长期免费售后,一口价 1980,永久使用。"

我们追问:" 能用明星的脸吗?" 对方秒回:" 可以,不加钱。"

对方承诺,付款后可获得一男一女两个演示模型和一个私人定制模型,模型训练仅需 2-3 天,安装当天即可完成,生成的 " 数字人 ",不仅外形逼真,还能实时互动、直播带货。

再追问细节,对方突然警觉起来,未直接回答,反而甩过来一张图片——一条空旷的公路,指示牌被 P 上了一行微信 ID。紧接着又来一句:" 换个地方聊吧。"

两日后,对方通过微信好友申请,要求先支付 500 元定金,承诺模型训练好之后可以部署至用户电脑,教直播带货操作,但不负责引流。

对方还透露,若为 MCN 机构操作多个账号可优惠,并提供两个方案:一、技术买断 19800 包售后,不限制账号数量,但不建议多个账号用同一张脸;二,按账号计费,原价 1980 元,优惠价 1580 元,并称已与两家传媒公司达成合作。

某平台上,多个已转为私密状态的明星关联带货账号,曾标注过同一 MCN 机构。《财经故事荟》致电询问合作,对方极为警觉,称暂不合作,并粗暴挂断电话。

当加其微信,表明 " 自家产的化妆品寻求克隆明星合作时 ",对方却未拒绝,也未询问是否具备合格资质,仅要求先看文字介绍。

《第一财经》曾报道显示,AI 换脸的黑灰产业链已形成牟利闭环,涵盖上游数据获取、中游技术生成、下游场景应用及洗钱变现等环节。

上游通过爬虫抓取、二手设备提取、音频截取等方式,获取受害者生活照、声纹切片与 3D 头模;中游包括通过技术手段实现人脸替换、动态驱动、对抗检测等;下游则将这些 " 数字李鬼 " 应用直播带货、诈骗勒索、虚假宣传等违法行为。

在闲鱼上,人脸识别教学视频 + 人脸提取业务售价仅 49.9 元。但卖家在商品详情页标注," 需确保素材不侵权,小铺不承担非法使用责任。" 将风险完全转移给买家。

某购物平台,虽无法通过 "AI 换脸 " 搜到商品,但通过 " 定制视频 " 等隐蔽关键词,仍能找到出售换脸软件,及定制服务的卖家。

除了换脸工具,批量生产的虚假内容也在暗中流通。

《财经故事荟》调查发现,某平台商家出售 AI 明星语音包、视频合成服务。部分商家甚至打出 " 定制明星祝福视频,真人语音,最低 50 元起。"

当询问能否定制一段 " 杨幂祝福生日 " 视频,对方爽快回应:" 可以。100 字 50 秒 450 元,30 字左右 250 元,若加急,则需要 300 元。" 该店铺仅有 203 个粉丝,却已售出 1533 件商品。其中 " 定制明星视频 " 链接显示,已售出 21 件。

最荒诞的是,这条灰色产业链还衍生出了 " 局中局 "

一些不法分子售卖 "AI 克隆直播引流教程 ",但有网友爆料,所谓 AI 数字人直播课程,根本就是一场骗局。对方先以 " 罗永浩做数字人直播 " 的案例诱其入局,再要求交 298 元试学 7 天课程,结果 3 天过去了,什么有用内容也没教。

最具讽刺意味的是,他们展示的 " 学员答谢视频 ",竟也是 AI 生成的虚假内容。

尽管,《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》已陆续出台,但在执行层面仍面临挑战。

AI 数字人虚假营销,涉及技术提供方、内容生成者、直播平台、商家等多个环节,现有法律并未清晰划定各方责任,给维权带来极大难度。

今年 9 月 1 日,《人工智能生成合成内容标识办法》正式施行,要求所有 AI 生成的文字、图片、视频等内容都要 " 亮明身份 "。但在实践中,平台审核海量内容难免疏漏、商家刻意规避标识等现象,使新规落地效果大打折扣。

面对日益精进的 AI 技术,我们只能先掌握一定的识别技巧。例如,AI 换脸视频可能存在细微的不自然之处,如面部表情僵硬、眨眼频率异常、光线与面部不协调等微小破绽。同时,务必保护好个人身份信息,不随意上传手持身份证照片或视频。若发现信息被冒用或遭遇可疑诈骗,第一时间保存证据并报警。

对于消费者而言,选择正规渠道和官方认证账号是避免受骗的重要方式。在观看明星直播间时,应认准明星的官方账号,特别是带有加 V 认证的账号。

技术是一面镜子,照出了使用者的良知与底线。

当 AI 以极低成本复制一个 " 明星 ",当信任成为可以量化的收割工具,我们面临的不仅是法律的漏洞,更是人性与科技的博弈。

未来,唯有让法律跟上技术的脚步,让平台扛起监管的责任,让个体提高警惕,或许才能在这场汹涌的 AI 浪潮中,守护住那个不被复制的、独一无二的 " 我 "。

评论
大家都在看