央视新闻 2小时前
虚拟“专家”泛滥 3招教你识破短视频带货骗局
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

记者近日在多个短视频平台上搜索发现:有大量看似专业、实则身份不明的 " 虚拟专家 ",他们看似言之凿凿,背后却另有目的。

貌似 " 交警 " 的人,在 " 车祸现场 " 煞有介事地讲解安全知识,话锋一转却开始兜售 " 破窗神器 ";貌似 " 和尚 "" 师太 " 的人,张口 " 修行 "、闭口 " 感悟 ",满屏都是人生哲理,账号却推销着养生品和经书。你是不是也经常刷到这样的视频?他们看似某领域的专业人士,却没有任何标识或头衔,评论区里还时常出现对视频真实性的怀疑。

为了验明真伪,记者带着几段视频来到中国信通院。专家帮我们把视频导入鉴别平台,该平台拥有多种技术手段鉴别能力,可实现对视频、图片、文本的交叉鉴伪。几分钟后,结果出现,AI 生成的概率高达 96%。

中国信通院人工智能研究所安全治理部主任 石霖:我们两个不同的鉴别引擎都判别出这段视频它是 AI 生成的。首先这个人过于完美,面部几乎没有瑕疵;重复的一些肢体动作过多;他的牙齿过于整洁,说话的过程中,仔细看是看不到舌头的。

针对另一个所谓 " 和尚 " 的视频也得到了同样的结果。这些未标注 AI 生成的视频捏造 " 警察 "" 僧人 " 等形象,利用大家对专业人设的信任,真实目的都是卖货。

记者调查中还发现,除了用 AI 捏造无中生有的人设,甚至还有人在盗用真实的专家形象。

北京眼科专家赵阳几个月前收到一位患者转来的视频,并询问他商品是否对眼睛真有帮助,视频里的赵阳正在推荐一款营养品。

北京眼科学会小儿眼科分会委员 赵阳:我看这视频特别懵。因为他是拿着我的视频,把我的声音给改了,在卖他的产品。

赵阳一纸诉状把商家告上法庭。审理中才得知:商家委托了一家视频制作公司,用 AI 生成销售商品的音频,借他眼科专家的身份为产品背书。

负责审理案件的北京互联网法院指出,随着人工智能技术的发展,AI 捏造虚假人设、盗用权威形象用来牟利的案件近年来越来越多。

北京互联网法院副院长 仪军:这类案件在我们的民事案件当中呈一个逐年上升的趋势。比如说 AI 换脸、AI 换声的这些软件,在一些黑色市场里面基本上十几块钱就能买到,造假的成本大大降低了,这类 AI 造假的情形也从以往的单纯互联网行业转向了互联网加传统行业。

国家去年出台规定,明确要求 AI 生成内容必须添加标识。记者调查中却发现:视频平台上依然有不少 AI 生成的视频未做标注。有些虽做了标注,却模糊不清。

这类视频在网上还有很多,它们大多以卖货为目的,常伴随产品质量争议,卖日用百货是重灾区。例如这个推荐清洁剂的视频,AI 标识字号小、颜色浅,隐藏在画面下方很容易被忽略。而在视频下方的评论里,记者看到 " 骗人的、我买过了 " 以及 " 夸张 "" 不好用 " 等字眼。

北京互联网法院综合审判二庭法官 封瑜:对于这些消费者来说,他们的知情权和选择权也受到了不正当的干扰和误导,从而被欺诈性地进行消费。从现阶段的技术发展来说,全社会的各个年龄段的人群都有可能会被欺诈。青少年认知经验比较少,社会经验也比较少,老年人也是另外一个重灾区。

面对这种情况,大家一定要多加甄别,可以通过 " 眼、耳、手 " 防骗三招辨别 AI,避免上当:

· " 眼 " ——先找 AI 标识,一般标注在角落。如果没有,就看细节:比如皮肤纹理是否过于光滑无瑕疵、背景边缘是否模糊变形、画面颜色是否过于鲜艳等。

· " 耳 " ——只要在视频或通话中听到 " 转账 "" 投资 "" 购买 " 这类关键词,别急着操作,先通过官方渠道确认。对方推销的商品也要多留个心眼,谨防货不对板、以次充好。

· " 手 " ——打开国家反诈中心 App,找到 "AI 内容鉴定 " 功能,一键上传,即可进行图像、视频、文本和音频的多维检测。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 北京 互联网法院 中国信通院
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论