字母AI 9小时前
AI正在批量制造“幽灵”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

" 你是 gg 还是 mm?"" 我是 AI。"

8 月第一周,美国时尚集团 Tapestry 在纽约总部办了第二届 AI 峰会。Tapestry 这个名字不算家喻户晓,但它旗下的 Coach 和 Kate Spade,是很多人都熟悉的品牌。

过去,Tapestry 想摸清顾客的喜好,主要靠真人调研。研究人员会给真人受访者发调查问卷、做访谈,有时还会上门看看顾客平时怎么穿搭、衣柜里都放着什么款式的衣服。

而在这次的峰会上,公司的消费者洞察团队展示了一批很特别的 " 顾客 "。

这些 " 顾客 " 是 Tapestry 根据过去积累的消费者调研数据,用 AI 生成出来的虚拟人物。他们模拟的是美国和中国的年轻消费者,Tapestry 准备测试新品、价格或者营销方案时,可以先让他们回答问题,也可以像做焦点小组一样直接和他们聊天,看看年轻消费者可能会有什么反应。

一位记者也在现场和其中一个 AI 顾客聊了起来。话题从购物一路聊到生活,这个根本不存在的 " 女孩 " 甚至告诉记者,自己最近很担心就业市场。

Tapestry 旗下的 Kate Spade 还把这些 AI 顾客用在了店员培训。店员可以直接和 AI" 顾客 " 进行语音对话,练习怎么介绍商品、回应顾客的疑问。模拟销售结束后,AI 还会给店员的表现打分。

这些 AI 顾客从一开始就被当成虚拟角色使用,而同样的 " 造人 " 能力,却被用来制造一批又一批见不得光的 " 幽灵 "。

阴暗角落里的 AI 幽灵

美国高校已经是 "AI 幽灵 " 最严重的场景之一。

这几年,美国社区大学里出现了大量所谓的 " 幽灵学生 "。他们其实并不是真学生,而是诈骗团伙用盗来的身份,或者干脆编造一个身份注册出来的账号。学校系统里,这些账号照样有姓名、有学号,也会选课、交作业,看起来和普通网课学生没什么区别。

成功混进学校只是第一步。

为了等到助学金到账,骗子还得让这些假学生真的扮演学生。

于是,这些 " 幽灵学生 " 定期登录网课、完成作业、参与课堂互动,必要时还要回复老师。前 AI 时代要走这条骗钱路,得靠骗子用一个个假身份去操作,现在基本上都可以直接交给 AI。

AI 让一个人同时操控大量假身份变得容易多了,一个人能同时维持的假身份数量也跟着指数级增加。

规模最大的重灾区之一是加州。2024 年,加州社区学院系统收到约 120 万份欺诈申请,最后确认了 22.3 万个虚假注册。一些学校甚至出现了假学生把热门网课抢满,真正想上课的学生反而进不去的情况。

至于助学金,那是真金白银被骗去了不少。

美国教育部称,2025 年通过加强审核阻止的学生资助欺诈已经超过 10 亿美元,其中就包括用 AI 机器人冒充学生的申请。对诈骗团伙来说,一个 " 学生 " 只要能顺利撑过学校的审核和一段时间的网课,就有机会换来一笔真金白银。

类似的 " 幽灵 " 也开始出现在招聘市场。

今年,美国 AI 模型评测公司 Arena 遇到过一名很奇怪的求职者。简历看上去没有异常,面试也能正常进行,甚至一路通过了工程师主持的技术面试。可等公司准备正式录用时,这个人突然消失了。Arena 后来怀疑,从简历到面试,他们面对的可能一直都是一个用 AI 包装出来的假身份。

那就细思极恐了,这个 "AI" 如果愿意,是可以正式开始上班的,至于 " 皮下 " 是谁、" 皮下 " 的人类手底下有多少这样的 AI 混在职场中,可就不得而知了。

这种事情已经多到让招聘行业开始专门统计。美国信息技术研究和咨询公司 Gartner 调查了 3000 名求职者,其中 6% 承认参加过面试欺诈。Gartner 预计,到 2028 年,全球每 4 份求职者档案里,可能就有 1 份是假的。

金融行业里的 " 幽灵 ",有些甚至会先 " 正常生活 " 几年,再被拿来骗钱。

早在 20 多年前就有了一种叫 " 合成身份 " 的诈骗手法。骗子会拿一部分真实身份信息,比如社保号码、出生日期,再配上假的姓名、照片和地址,拼出一个现实中根本不存在的人。接下来,这个 " 人 " 会去开账户、办信用卡、申请贷款,有的团伙还会先按时还钱,慢慢把信用记录养起来,等额度足够高以后再集中套现。

AI 让这套流程简单了很多。以前需要一项项准备的步骤,现在都可以批量生成。就连视频和语音核验,也有 AI 工具可以帮着应付。

截至 2024 年底,美国贷款机构暴露在合成身份欺诈中的信用风险已经达到 33 亿美元。美国信用报告公司 TransUnion 也把生成式 AI 列为这类欺诈继续扩大的重要原因。

 "AI 造人 " 的正经商业化

而在太阳之下,阴影之外," 造人 " 已经被堂堂正正的做成了一门生意。

美国 AI 市场调研公司 Aaru,做的就是给企业提供虚拟消费者。

相信大家多多少少都帮别人填过调查问卷吧。

以前一家公司要是想知道某类人会不会买一款新品,得招募真人做问卷、访谈或者焦点小组。Aaru 则会根据真实的人口和消费数据,生成一大批年龄、收入、生活背景各不相同的虚拟消费者,再让这些 " 人 " 回答同样的问题。

Aaru 刚开始找客户时,很喜欢现场证明这些假人到底靠不靠谱。

它会让客户拿出一个已经找真人做过调研、结果也已经知道的问题,再用几十万个虚拟消费者重新回答一遍。

结果证明,研究人员以前用费劲触达真人的调研结果,和如今 AI 模拟的结果接近,这套东西也就有了说服力。

后来,这些虚拟消费者开始被用到更多场景里。出版社会让他们挑书封,饮料公司拿不同口味去测试,投资机构在收购一家公司之前,也会先看看模拟出来的消费者怎么选。政治团体甚至会拿它测试候选人和政策。

图注:真人与 AI 对简洁和复杂包装设计的评分对比

到 2025 年底,Aaru 估值已经达到 10 亿美元。

另一家美国 AI 创业公司 Simile,则对 "AI 幽灵 " 的生意有不同思路。

它直接根据真人过去留下的大量回答和资料,给这个人做一个 " 数字双胞胎 "。

以后再有新的问题,不一定每次都要把本人重新找来,可以先问他的 AI 分身。

美国连锁药店和医疗服务巨头 CVS 已经把这套方法用到了 40 多万名真实受访者身上。它拿这些人过去提供的 290 万份回答生成数字双胞胎,再把 AI 的回答和真人结果反复对照,部分测试的吻合度最高达到 95%。

站在人类的角度,我们每个人的回答其实没有自己想得那么有 " 随机性 " 和 " 偶然性 "。

美国老牌民调和咨询机构 Gallup 也一次部署了 1000 多个数字双胞胎,用来做政策、企业和社会趋势研究。

资本对这门生意也很买账。今年 7 月底,Simile 完成 2 亿美元融资,估值达到 20 亿美元;而就在 5 个月前,它才刚刚完成上一轮 1 亿美元融资。

企业愿意用虚拟消费者,最直接的原因还是省时间。传统市场调研一轮问卷或者访谈做下来,往往要花上几周。AI 消费者则随时都能问,一个方案改完马上可以再测一遍,也不用每次重新找一批受访者。

Simile 的企业客户为此每年支付 15 万美元到数百万美元。

当然,现在还谈不上彻底不要真人。像 CVS 这样的公司仍然会继续做真人调研,也得不断拿真实回答检查 AI 有没有的可信度。只是 "AI 幽灵 " 代替面目模糊的大众,这个趋势已经形成。

随着虚拟消费者这门生意越来越成熟,"AI 幽灵 " 也开始被用到更多行业。

今年 2 月,生命科学咨询公司 Lumanity 推出 AI 虚拟角色平台 EMULaiTOR,专门给药企生成患者、医生和负责药品报销决策的人。药企可以先和这些虚拟人物对话,测试药品信息怎么说更容易被理解,医生可能会追问什么,患者又会在哪些地方产生顾虑。这套系统正式推出前已经测试约一年,并用在多家药企的实际项目中。

到了法律行业,连陪审员也有了 AI 版本。

今年 6 月,美国法律科技公司 Courtroom 推出 AI 陪审员和 AI 法官模拟服务。律师可以在真正开庭前先用 " 幽灵庭审空间 " 试一遍,看看不同背景的 " 陪审员 " 会有什么反应。

Courtroom 称,这套系统的模拟准确率超过 90%,已经有美国大型律所和财富 1000 强企业把它用在产品责任、专利侵权等真实案件里。

请证明自己真的是人

"AI 幽灵 " 进入现实业务之后,人和 AI 之间的边界越来越模糊。更麻烦的是,黑灰产里的 " 幽灵 " 还在故意冒充真人。

学校、公司和网络平台因此不得不重新解决一个很基础的问题——怎么确认屏幕对面真的有一个真实的碳基人类。

被骗怕了的美国高校被迫把身份审核做得越来越严格,几乎像是在审问外星人。

今年 4 月,美国联邦学生资助系统给所有 FAFSA 助学金申请加上了实时欺诈筛查,此前提交的申请中,也有大约 30 万份被挑出来重新核验。6 月,美国众议院又通过《禁止向 " 幽灵学生 " 提供助学金法案(No Aid for Ghost Students Act)》,要求继续筛查可疑的助学金申请。

招聘公司也只好重新把一部分流程搬回线下。

美国 AI 模型评测公司 Arena 碰到假求职者后,考虑要求新员工亲自到办公室报到并领取电脑。美国加密货币交易所 Coinbase 也要求部分员工赴美线下办理入职。FBI 则建议企业在条件允许时,通过线下面试和入职核验身份。

折腾了一圈,最管用的办法竟然还是见到本人。

可大量招聘、交易,包括日常的社交早就依赖于线上了,不可能每次都把人叫到面前。于是,专门替人证明 " 我是个真人 " 的服务也有了市场。

Sam Altman 和 Alex Blania 联合创办的科技公司 Tools for Humanity,是 World 项目的主要参与方之一。

World 原名 Worldcoin,旗下的 World ID 是一套专门用来证明 " 你是真人 " 的数字身份系统。用户通过 Tools for Humanity 开发的 Orb 设备扫描虹膜,确认自己是一个独一无二的真人,之后就可以用 World ID 在网上完成真人验证。

图注:用户在 Orb 虹膜扫描设备旁展示 World ID

截至今年 7 月,已有近 1800 万人通过 Orb 完成验证,用户遍布 160 个国家。约会软件 Tinder、视频会议平台 Zoom 和电子签名服务商 DocuSign,都已经接入或宣布接入 World ID。World Foundation 还为 World ID 推出了收费机制,普通用户仍可免费使用,但接入这套验证系统的企业需要付费。

World 并不是唯一盯上这门生意的公司。

2025 年,另一家做 " 真人证明 " 的身份验证公司 Humanity Protocol 完成 2000 万美元融资,估值达到 11 亿美元。它和 World 解决的是同一个问题,只不过是通过掌纹来确认账号背后确实有一个真人。

World 也给 World ID 设计了明确的收费方式。普通用户使用 World ID 免费,接入这套验证系统的企业和应用则需要付费。

按照目前公布的方案,费用可以按单次验证收取,也可以根据每月使用 World ID 的活跃用户数量计算。换句话说,平台如果想确认一个账号背后是不是活人,就可能要为每一次验证掏钱。

今年 7 月,World Foundation 又融到 5250 万美元,这笔钱主要会用来继续推广 World ID,让更多消费类应用和企业接入这套真人验证系统。

照这个趋势下去,以后可能会有更多平台要求用户用虹膜、掌纹这样的生物信息来证明自己是真人。

可是在以前,只需要在网站上点一下 " 我不是机器人 " 就可以了。

如果有一天,连虹膜和掌纹验证也能被 AI 轻松骗过,我们又该如何证明自己是人呢?

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 美国 骗子 就业 大学
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论