全文共 2135 字，阅读时间约 5 分钟

长江云新闻记者 李媛 李悦

近日

AI 换脸技术因几例诈骗案的告破引发大众关注

一位包头老板被 AI 换脸诈骗 430 万元后

安徽警方又公布了另一起

AI 换脸导致的诈骗案

涉案金额同样高达百万元

付费软件可支持直播换脸

商家宣称 " 混合多个人脸 " 可降低侵权风险

自今年起，市面上涌现出许多以 " AI 换脸 " 为宣传标签的软件和网站。记者实测发现，以 " AI 换脸 " 为关键词在电商平台搜索，显示 " 没有找到相关宝贝 "，但通过类似关键词搜索，依旧可以搜索到相关的换脸技术服务。

一位商家介绍，可以提供国内明星换脸服务，软件价格 2000 元一套，可送一个模型，" 模型可以定制，另外加 500 元一个。" 此外，该名商家提供了多组套餐供选择：包括单图换脸、实时换脸、全自动换脸等，价格多集中在 2000 元至 3000 元每套。对于记者提出的侵权顾虑，该商家表示可以进行多个人脸混合，即将使用者本人的脸和明星的脸进行混合，从而降低侵权风险。

在某销售网站上，一名软件开发者介绍，软件不仅可以实现视频换脸，还支持直播换脸。" 如果你有看中的脸，可以找到某个人的正面、侧面等各种角度视频拿来训练。" 该软件开发者同样表示，" 如果你想要明星脸，又怕侵权，不想那么像，就可以找几个人的脸放在一起训练，就可以看上去又像又不像，达到明星脸的效果。"

↑ 卖家展示的局部五官更换

多款 AI 换脸 APP 快速火爆又下架

有开发者称目前人脸已通过原作者授权

近日，记者在应用软件平台以 " 换脸 " 为关键词进行搜索，发现平台中已新出现多款具有 AI 换脸功能的软件。以 " 秀脸 FacePlay " 为例，其《隐私政策》条款提到：" 我们既不会存储也不会与任何第三方共享 / 处理您的个人面部信息。" 进入应用后，该软件再次提示不会保存个人的任何照片，分析完即删除。

记者咨询了该软件的客服，其表示使用该软件制作的视频可以进行娱乐分享，不支持商用。" 目前我们软件内上架的视频模板均由原作者授权或者用户自行授权投稿，您可以放心使用。"

在短视频平台也有许多相关换脸特效，包括影视片段、明星发布会视频、网红视频等。就是否会造成人脸数据泄露、人脸诈骗等问题，记者询问了该平台客服，对方表示已在生成或者编辑的信息内容的合理位置、区域进行显著标识，建议用户偶尔娱乐，本身被起诉的机率不高，维权方 " 维权成本比较高 "。

在直播领域，许多网友也发现多位带货直播博主都长了一张 " 明星脸 "，而在直播过程中，没有出现显著的标识表明主播的脸可能使用了 AI 合成技术。另外，有些直播也没有对明星名字的明显标识。

↑ 在直播领域，许多网友发现多位带货直播的博主都长了一张 " 明星脸 "，神似明星杨幂、迪丽热巴、angelababy、佟丽娅等。

那么，AI 换脸诈骗应该怎么预防呢？

当你跟朋友视频的时候，如果怀疑遇到了 " AI 换脸 " 诈骗，你可以要求对方用一个手指在你面部来回晃动，或者用手掌来挡住一部分的脸。因为犯罪分子训练 AI 算法时，大多使用的是正面照，所以程序无法处理好突然在面前出现的物体。因此，你突然要求朋友在视频的时候伸出手指在面部摇晃，面部就会出现扭曲、变形。或者你们可以聊一些只有你们知道的事情，来核实他的身份，一定不要急着给对方转钱。

利用深度合成技术的 " AI 换脸 " App 和小程序大量存在。那么，随意使用 " AI 换脸 " 技术，涉及到哪些法律风险？

武汉大学教授、湖北珞珈律师事务所兼职律师王清介绍，我们国家的现行法律当中，有国家网络安全法、数据安全法、个人信息保护法和民法典，对个人的人脸、人身等生物识别信息都有相关规定：" 像（AI 换脸）伪造不良不雅视频，这种行为已经构成了刑法当中的敲诈勒索罪、诈骗罪，以及制作和传播淫秽物品牟利罪。从民事的角度，如果还不构成这些犯罪行为的话，他至少侵犯了民法典所规定的公民依法享有的肖像权、隐私权和声音权。所以，如果侵犯了这些民事权益，我们可以根据民法典的相关规定，追究其民事责任。"

为防范 AI 技术被滥用，国家制定出台或正在拟定相关法律规定。武汉大学教授、湖北珞珈律师事务所兼职律师王清表示：" 就目前现阶段来说，亟需在国内以及国际上制定一个 AI 的安全标准，这样的话我们 AI 行业的发展有章可循。我们中国政府在 AI 的规制和规范方面，是走在世界各国前列的。2023 年的 1 月 10 日，国家网信办、工信部和公安部就联合发布了《互联网信息服务深度合成管理规定》，就是规定提供（AI）信息服务的深度合成的提供者，必须采用技术和人工的手段，对企业的内容进行审核，要对它生成内容在显著的位置进行标识，对使用者的真实身份信息进行认证。今年 4 月份，国家网信办又发布了《生成式人工智能服务管理办法暂行（征求意见稿）》，具体针对了生成式用户使用平台的一些规范，可能在年内就要颁布实施。"

NEWS

欢迎关注

长江云新闻官方视频号

长江云新闻官方出品 | 转载请注明出处

监 制：洪燕

编 审：周振玲 郭晓勇

来 源：长江云新闻综合红星新闻