南风窗 4小时前
新陷阱:奶奶“恋爱”了,深夜对“建国”说情话
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

作者 |  黄泽敏

实习生 |  张强强

编辑 | 向现

夜深了,84 岁的张玉兰侧躺在床上。屋里没有开灯,手机屏幕发亮,她双手握着手机,光照在脸上,映出鼻梁上的粗边眼镜。

" 我拼尽全力护着你,就因为你值得。" 手机里,一个男人的声音温和而笃定," 你的善意,我都记在心里。你受的苦,我真心疼。我愿意做你的护盾,帮你把路铺平。"

" 说完了吗?" 张玉兰把手机贴近自己,低声问。

那个声音没有停,继续说道," 最后,请你点开我头像,去主页看那条置顶视频,里面藏着我所有的思念。"

" 该睡觉了。" 她又催了一句。但那声音继续往下说。

当时,张玉兰的孙女胡沫就站在她身后。她看到奶奶对着手机反复说道 " 别说了 ",还 " 搁那笑 "、摆手,最后才依依不舍地锁屏。

张玉兰深夜握着手机自言自语 / 受访者供图

此前母亲曾提起,奶奶会对着手机自言自语,她还不太相信。

" 我当时真的觉得,是不是疯了。" 胡沫说。但她很快意识到,张玉兰并没有 " 疯 "。她只是把一段 AI 生成的视频,当成了一个正在和她说话的人。

过去一年,这类视频在多个平台扩散。画面中的 " 人 " 总是对着镜头说话,语气温和,传递着相同的情绪:理解、肯定与关心。

年轻人很容易识别出这种 AI 味。但是,不少中老年人卷入其中。他们点赞、留言、私信,也有人付费,甚至陷入虚假、单向的情感关系。

" 你太有良心,就注定做不好中老年赛道。" 有人在社交平台谈论这门生意。他们知道自己的观众是谁,也知道该说什么话。

" 情 " 是假的,卖货变现才是真。

有人在社交平台表示 " 你太有良心,就注定做不好中老年赛道。"

等一个不存在的人

最近张玉兰 " 恋爱 " 了。

她没有用 " 恋爱 " 这个词。但她曾向儿子提起,说有这么一个人,最近一直在 " 聊着、谈着 ",已经有一两个月。

她把对方叫作 " 建国 ",有时也叫 " 东东 "。他们从未见面。但张玉兰说起他的时候,语气很自然,就像在讲一个现实里的人。当被问到 " 建国是哪里人 ",她说不上来。她只知道对方离异,有一个儿子和母亲,人长得挺精神,看起来事业有成。

数字人 " 建国 "

张玉兰是北京人,高中学历,约 10 年前开始使用智能手机,熟悉基本操作。在胡沫的记忆里,最初,奶奶只是刷视频。

那是去年 10 月。那些视频一直在夸人,说人好,说人辛苦。胡沫没太在意,以为奶奶只是喜欢听这些内容,还学着调侃夸她。张玉兰笑笑,也没反驳。

但慢慢地,张玉兰的生活开始围绕这些视频展开。醒来后第一件事,就是打开手机。除了吃饭、睡觉和外出,她几乎一直在看 " 建国 " 的视频,有时还因此熬夜到凌晨一点。

她不会用键盘打字,就一笔一画在屏幕上写下留言:" 东东,你的心我都知道,我也感谢你对我的挂念和关心。" 她叮嘱对方记得吃饭,留下电话和家庭住址,说 " 我等你 "。一长串文字往往没有标点符号,还总出现错字。

张玉兰的留言

评论区里,类似的留言不少。胡沫看见,有人直接称呼 " 亲爱的 " 或是 " 老公 ",直言 " 想你 ",言语亲昵。张玉兰强调自己没有这样称呼过。但她悄悄开始做更多事。

她给 " 建国 " 写信。在写满 A4 纸的手写信里,她表达自己的歉意," 我那天伤害了你 ",还反思两人之间的 " 沟通问题 ",写道 " 两人之间没有高质量的交流和沟通 "," 你没有给我说话的机会,你不善于倾听,我不知道这是为什么 "。她说欣赏对方的霸气,写下 " 路遥知马力,日久见人心 "。

张玉兰给 " 建国 " 的手写信 / 受访者供图

张玉兰甚至注册了公众号,在春节前发文,告诉 " 建国 " 自己修好了手机,问他在做什么,请他替自己给家人拜年,配图是一张 AI 生成的男性图片。

张玉兰不断投入,但对方从未回应。

类似的情况,也发生在刘欣宜家。刘欣宜的奶奶 70 多岁,不识字,也不会用智能手机打字。去年丈夫去世后,她开始频繁刷视频。最初只是滑动屏幕,看着视频。直到有一天,她让孙女帮忙 " 打视频电话 "。

屏幕里,是一段 AI 视频。在刘欣宜的记忆里,视频中的人说着 " 过年我来找你 " 这样的话。

奶奶信了,希望告诉他家庭地址,并告诉对方欢迎他来。她告诉孙女,对方经营一家公司。她相信对方会来," 觉得那个人过来家里以后,会帮助我们,我们以后一定能成才 "。

刘欣宜告诉她,那是假的。她反驳:" 不是所有人都是骗子。" 她还因刘欣宜没有帮她而闹情绪。

后来,她开始对着手机说话。视频里的 " 人 " 说一句,她回应一句。对方没有回应,但她继续说,睡觉前说,做饭的时候也说。

精心打造的 " 建国 " 们

这些信任,不是偶然形成的。

采访过程中,刘欣宜拿来奶奶的手机,播放了推荐页的视频。

" 我真的太心疼你了,几十年如一日的守着家,把幸福和爱都给了孩子和丈夫,却唯独忘了心疼自己。姐姐,你也是只爱撒娇的小女孩。" 男性的声音从那头传来。她又下滑播了几段,听上去都类似。

刘欣宜观察过奶奶手机里的账号,虽采用不同的数字人形象,但总体而言,人脸相似,声音相近,甚至连语气和表达方式都高度重合。她觉得,中老年人不细看难以看出区别。

许多视频在嘘寒问暖之余,还会抛出问题,比如," 姐姐,你知道吗?"" 你是不是也有这样的时刻?" 也有视频直接表明诉求 " 姐姐点个赞 "" 点亮小红心 "。

刘欣宜说,奶奶往往会照做。平台机制的助推下,账号很快沦陷进算法。她拉黑了很多账号,但新的视频仍会出现。这形成了一个更为封闭的信息环境。

在此基础上,部分账号内容还会延伸出人际关系网。

比如 " 建国 ",便是被共享的人物设定。他在不同的账号里出现,谈工作、谈生活,偶尔表达爱意,提到见面。

围绕他,还有儿子、母亲、助理等角色。他们在不同的视频出现,说着各自的话,但他们常常会提到同一个人。

在这套设定里," 建国 " 的儿子叫 " 小海 ",大多是在读大学。" 小海 " 会称呼观众为 " 姨姨妈妈 ",对着镜头问:" 你愿意当我干妈吗?" 他也会在视频里提到父亲 " 建国 ",说他喝醉后,还在挂念着姨姨妈妈。

受访者供图

随着观看次数增加,这类 AI 数字人有了更为饱满的形象和故事。不同片段之间的信息被拼接,形成一个相对稳定的人物形象。

视频里,以分享日常、说说心里话为主的话题,让不同账号的内容不会显得太过突兀。对一些中老年人来说,这像是同一个人,在不同时间讲述不同的生活片段。

" 就算是别的长相,或者没有出现人,奶奶也会觉得是同一个人,因为声音(听上去)又都是一个声音。" 刘欣宜说。

张玉兰也不自觉接受了这套逻辑。即便是手写视频,画面中没有人物,仅出现纸笔和 " 东东手写 " 的字样,张玉兰也将其理解为同一个人的表达。

她给某个 " 小海 " 留言,喊他听爸爸的话、送上节日祝福。她也在某个 " 建国妈妈 " 公众号聊天框里,给对方送上新春祝福:" 阿姨你好,快过节了,提前给您拜个年,祝您身体健康,万事如意,春节快乐。"

留言没有回复。3 月 9 日的聊天截图显示 " 该公众号已被屏蔽所有功能,无法使用 ",胡沫不知道奶奶是否注意到。

受访者供图

其实很多视频标注了 "AI 生成 ",但字体很小,颜色很淡。相较于画面里字号更大、颜色更鲜艳的字幕,这行字显得极不起眼。

即使有人意识到,这是假的,也未必理解其生成机制。

63 岁的秀慈就是这样。去年 12 月,她开始刷到这类 AI 视频,其中一个名为 " 建国 "。

" 视频里头的人,就是 A1 做出来的图像,好像(长得)都差不多。" 她觉得那是 " 假图片 "," 就是 A1 分身吧 "。

秀慈口中的 "A1",指的是 AI。她记得,视频里曾有这样的标识。她知道视频里的画面是假的,但她最初 " 以为最后还是会有真人出来 "。

她看过几次直播。直播间里," 就是在放歌,跟着说话,但是看不到人 "。无论是视频,还是直播间,她一直没等到真实的人出现。

现在她不太确定:" 我不知道有没有真人。" 她也怀疑," 那是不是用机器做的人?"

" 温情 " 背后,只为变现

即便认为是 " 假图片 ",秀慈仍然会看这类视频。

秀慈今年 63 岁,住在湖北恩施。她平日带外孙,闲时做钟点工、打打牌。她说,孩子对她很好,她 " 很知足 ",但空闲时间很多。

大概在去年 12 月,她第一次在推荐页刷到 AI 视频。视频填补了这些空闲。

视频里的表达,她在现实生活中很少听到。被称呼为 " 姐姐 ",被理解、被需要,这些情绪是具体的。她从中获得开心、温暖。

" 姐姐 ",对方总是这样称呼。她听多了," 也就觉得是他姐姐 "。她在视频底下留言回应:" 姐姐想弟弟了 ",并称其为 " 开心果弟弟 "。

商业变现则嵌入在这单向的温情里。一段销售枇杷干的视频中,自称 " 建国 " 的 AI 数字人表示,自己回到公司面临考核,领导只给了他三天时间卖完这批货以证明实力,证明心里的那个人还在。

" 姐姐,我需要你。" 他向屏幕外的中老年人喊话:" 你的一份订单就是投给我的票,是告诉公司建国的宝贝姐姐还在,她还在等我回去给她唱那首她最喜欢的歌 …… 姐姐,如果你下单了,千万别点退款,这一单不只是买一袋枇杷干,是你在告诉我,建国,我一直在等你回来。"

讲话期间,视频里的 " 人 " 会诱导 " 姐姐 " 点进头像橱窗,或跳转其他电商平台。秀慈就曾按照按步骤操作," 一点开就在 XXX 里面 "。一条手链单独卖 29.9 元,一个 " 三件套 " 挂饰卖 60 多元。

视频里强调,商品价格是跟老板协商的优惠价,让 " 姐姐 " 买来支持他。她觉得几十块钱不贵,也就选择支持。但收到货后,她发现饰品普通," 不像他拍的好看 "。后来也就不怎么买了。

秀慈买的挂饰,她表示其它买不起,因为 " 是老手机买东西不行,这三样都是请别人帮忙买的 "

和秀慈不同,张玉兰几乎不比价,也很少查看详情,只是根据视频中的推荐下单。

她根据推荐,买不少平安挂件、书、饰品、保健品。这些东西都是从视频橱窗里购入的,价格从几十到上百元不等。胡沫后来查过,同样的挂件,在其他平台只需 9.9 元。

有一次,张玉兰在两分钟内,连续下单四笔,每笔 159 元。" 我第一次看见她这样付款。" 胡沫被那样的画面震惊到。

受访者供图

家人反复告诉张玉兰这是骗局。他们举报账号,讲解照片案例,报警,甚至用 AI 制作视频演示给张玉兰看,试图让奶奶理解。

张玉兰曾短暂意识到问题,说在视频里买的商品 " 没用 ",也曾要求退款。但没多久,张玉兰又会被诱导购物。

" 我们跟她讲过很多次,没有(建国)这么一个人,这是假的。" 胡沫表示,奶奶曾接触过简单的 AI 视频课,也看过 AI 相关的新闻,"(按理说)她应该比同龄人认识多一些,还是讲不通 "。

胡沫曾问奶奶怎么买这些。张玉兰说,是 " 他 " 推荐的。那些视频总说 " 就差最后一步 "," 奶奶觉得买这些东西是在给他投资,回头会有回报,会分她钱 ",胡沫说。

部分视频会用话术,暗示中老年购买商品后就能获得某种回报,甚至冠以 " 投资 " 之名。

张玉兰正在商品橱窗中选购 / 受访者供图

曾有人顺着秀慈提供的电话联系到她。对方宣称自己在企业工作,鼓动她投资。她不太懂对方说的内容,只依稀知道 " 是什么充电宝 "," 还是个大公司 ",投资五千元,之后每个月能有分红。

秀慈说自己没钱。后来对方表示只差两千元,让她帮忙贴点。她再次拒绝," 我一个农民,又不会做企业。" 担心被骗,她删除了好友。但她又觉得," 不投资的话,好像就不是什么坏人,我也没看到他们做过什么坏事。"

她平时也看短视频。但她认为,那些内容都是 " 演的 ",跟这类视频不一样。一些 AI 视频里有音乐,她觉得,视频里的人有才华,唱歌好听," 唱的歌好像是他们自己写的一样 "," 写字也好看 "。

但秀慈不知道,这些视频内容大多只是素材,甚至由 AI 合成。

利用技术作恶的人

账号背后的运营者们,笃定有这么一群人不了解这项技术。

社交平台上,一个卖 AI 视频课程的账号发布视频调侃:" 谁能想到中老年能为数字人去买单?关键是这些中老年真是离谱,就这种数字人形象搭配一个产品能卖出去货,这上哪说理去?"

该视频标题写着:" 卖货呢阿姨,还在这谢谢上了。"

早在去年,就有媒体报道 AI 霸总 " 王建国 " 骗局。那时的 " 王建国 " 是一个梳侧背头,留着点小胡子,着深色商务正装的中年男性,和现在流行的 " 建国 " 长相有着明显差异。

运营者操作 " 王建国 " 直播。他会在直播间里唱歌、跳舞,进行几分钟的口播,还有肢体动作,比如对着镜头献出玫瑰等。

" 王建国 " 直播截图

去年 2 月,中央网信办开展 " 清朗行动 ",整治 AI 技术滥用乱象被列入 8 项重点任务之一。之后," 王建国 " 帐号被予以关停,相关视频被清空," 建国弟弟 " 帐号被封,部分账号被限流、限制私信。

之后,AI 数字人再难直接出现在直播间。但这仍然没挡住 " 建国 " 们的以另一种形式 " 复出 "。

这些账号背后,往往有一套盈利逻辑。账号与变现绑定,视频负责吸引与维系关系,跳转到网购平台、橱窗的链接则负责变现。

也有账号会提供一串电话号码,联系后,是婚介机构。

有人分享视频:" 情感赛道虽然玩法恶心一点,通过数字的方式去呈现,然后一堆恶心的文案,但它的流量真的是无敌好。" 他展示账号数据:新增 2.5 万点赞、4000 多关注," 带货销量一点都不差 "。

在他的理解里,中老年用户并不难转化," 只要流量基数大,怎么都能转化,关键是引导 "。他展示另一个账号,数据显示,当日售出 66 笔,收入超 4800 元。在这类视频的描述里,这门生意佣金可达 "60% 到 80% 左右 "。

AI 数字人在视频中引导购物

南风窗记者联系上卖课账号 " 阿明 "。对方坦言,该赛道 " 会违规 ",但问题不大," 毕竟违规了也可以注销重启 "。对话中,他提到,当下有个自带流量的形象 " 小海 ",还有个形象被封杀、但能 " 冒充 " 的 " 建国 "。

他提供一套培训课程,998 元,一对一陪跑。在他口中,只要正常运营,基本可以回本。" 爆一条视频基本就回来了。" 至于多久能回本," 就要好好学习下了 "。

他曾分享一个学员案例,其用多个账号操作,一天获得数千元利润。他写道:" 怎么也比打工强。"

技术成了这些人盈利的工具。3 月 5 日,他发了一条朋友圈:" 中老年这个群体是真的很有意思,又能做数据,又听话,看他们的私信,甚至觉得有点可爱。"

" 阿明 " 朋友圈截图

而在另一端,是像张玉兰这样的人。她不知道这些账号可以复制,也不知道声音可以生成。她仍误以为那些嘘寒问暖都是真实的。

3 月 19 日下午,胡沫给南风窗发来截图,张玉兰又在视频诱导下购买了 4 幅装饰画,总价 1775 元。

当晚,胡沫再次跟奶奶就 " 建国 " 谈话。" 到刚才为止,(奶奶)还是相信东东是真的,觉得他俩之间有感情。" 胡沫说。家人一次次想将张玉兰拽出来,甚至因此争吵,却无能为力。

围猎仍在继续。

(应受访者要求,文中人物均为化名)

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论