"AI 换脸 " 再次引发关注。据央视网 10 月 25 日报道，杭州市中级人民法院今年公布一起案例，AI 生成视频，已经能够逃过人脸识别系统。

两名不法分子利用网络收集他人照片，通过 AI 生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破了购物平台的人脸核验，盗取了账户内的个人信息。

央视主持人白岩松表示，无论 AI 怎么发展，都不能以侵害别人的权益为代价，更不能让造假的人占尽便宜。

另据潮新闻此前报道，今年 9 月 4 日，杭州中院公开开庭审理一起涉 "AI 换脸 " 个人信息保护公益诉讼案，并当庭作出一审判决。

该案中，张某、王某非法获取他人手机号码、头像照片、身份信息等，并利用 "AI 换脸 " 技术将人脸照片生成视频，伪造人脸识别认证，强制登录他人购物平台账号，将收货地址、购物车信息售卖给第三方，同时有偿替人进行虚假实名认证，共非法牟利 5857 元。

经法院查明，案涉 "AI 换脸 " 技术通过深度学习的算法，识别、提取照片中的人脸要素信息，并不断进行训练建模，生成模拟真人的动态视频。向左看、向右看、张张嘴、眨眨眼 …… 这些在人脸验证环节中的常用动作，都能通过 "AI 换脸 " 技术生成。同时，张某、王某在手机中植入虚拟相机应用程序来替换本地相机，当平台调取摄像头进行人脸识别验证时，屏幕中的人脸就自动替换成这段合成视频，从而躲避 " 人脸识别 " 验证的防线。

法院判处张某、王某公开道歉，并支付公益损害赔偿金 5857 元，此款将专用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

这个案例证明，AI 视频已经能够骗过一部分仍在广泛使用的、以传统活体检测为核心的人脸识别系统。