快科技 2 月 20 日消息,网上存在着一种令人担忧的现象——有人公然叫卖 "AI 声音克隆 " 服务以及制作名人换脸视频。
其中,仅需花费 200 元,就能定制明星语音包;而 500 元,则可以制作出带有 " 情绪调节 " 功能的名人换脸视频。
实际上,这些商家所倚仗的不过是一些 AI 开源工具罢了。具体来说,只需 15 分钟的名人原声,便能够训练出声音模型;一段公开演讲视频,也足以生成换脸素材。
那么,针对这种 AI" 仿冒名人 " 的现象,我们是否具备自行辨别的能力呢?
对此,微信珊瑚安全为我们科普了一些避雷的小妙招。要知道,AI 生成的内容并非完美无缺,其实也是存在瑕疵的。例如,AI 语音常常会带有机械尾音,只要多听几分钟,就能够察觉到其中的 "AI 味 "。而且在重音停连方面,其语气也会显得不够自然。
再看 AI 换脸视频,其中眨眼频率往往是固定的,嘴角肌肉运动可能会显得不自然,并且无法及时与弹幕用户进行互动。如果使用 0.5 倍速仔细观察微表情,或许就能发现 AI 的端倪了。
更为重要的是,我们需要在日常生活中保持警惕,留意那些反常场景。比如,当看到明星跑来推销三无产品,或者专家突然跨界推荐理财产品时,有可能已经陷入了 AI" 仿冒名人 " 的陷阱之中。
登录后才可以发布评论哦
打开小程序可以发布评论哦