最近，有网友发消息称" 张文宏是不是带货了？"视频中，张文宏在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。

据媒体报道，这个名为 " 般画 234" 的账号，在视频中以 " 张文宏 " 身份反复介绍一种产品，口型是他的，声音也是他的，但稍微懂点 AI 的小伙伴们一眼就能分辨这是 AI 合成的视频！

目前，这段视频已在该账号内不可见，但商品橱窗内还保留着蛋白棒售卖的页面，并显示已售出 1266 件。

近年来，AI 剪辑冒充明星的案例屡见不鲜，也有不少人因此上当。

今年 11 月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款 200 万元给自己的男朋友 " 靳东 " 拍戏。

民警随即拿起老人的手机进行查看，发现老人所谓的大明星 " 靳东 " 是骗子冒充的，其所发布的视频也是由电脑 AI 合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。

最终，民警通过向老人展示网络上一些冒充 " 靳东 " 诈骗的新闻和现场利用 AI 合成照片等方式，老人才幡然醒悟，表示不会再相信网络上的 " 靳东 "，并放弃了开卡贷款的念头。

今年 10 月，老牌港星黄百鸣在社交媒体上发布声明表示，有人盗用他过去的影片，并利用人工智慧技术替换掉原有声音，假借自家名义代言一个不知名的药膏品牌，这种行为纯属欺诈，旨在误导公众并从中取利。

学会三招识别 AI" 换脸换声 "

我们可以要求对方在视频对话的时候，在脸部面前，通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰，他所伪造的人脸会产生一定的抖动或者闪现，或是一些其他异常的情况。

在点对点的沟通过程中，可以问一些只有对方知道的问题，验证对方的真实性。

还可以让对方通过按鼻子按脸的方式，观察其面部变化，真人的鼻子按下去是会变形，但 AI 生成的鼻子并不会，同样脸部也是一样的。

值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着 AI 技术的发展，" 动起来 "" 挥手 "" 比数字 " 等有可能难不倒新技术，" 数字人 " 同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范 AI 诈骗，还是要从自己出发，做好信息保护，提高警惕。

例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。"AI 换脸 " 的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着 AI 算法参考的数据越多，生成的 " 数字人 " 会更真实。

同时，在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。

来源 中国青年报、新闻坊、侬好上海、大皖新闻

编辑 周欢 / 编审 李枫 / 签发 蒲谋