IT 之家 10 月 18 日消息,生成式 AI 推动的深度伪造技术现已相当成熟。据外媒 Futurism 17 日报道,许多青少年正用这项技术整蛊家人和朋友。最新流行的恶作剧,是孩子们伪造出自己邀请无家可归者进家的 AI 照片,再发给父母,引发了惊慌甚至报警。
这一现象显示,先进的生成式 AI 工具已深入日常生活,也预示着人们正进入一个真假难辨的时代:连来自亲友的影像都可能是伪造的。
社交媒体上充斥着年轻人炫耀如何用 AI 把父母或朋友吓坏的视频。随着这股风潮愈演愈烈,美国多地警方开始发布警告。马萨诸塞州塞勒姆警方表示,这种行为既愚蠢又危险:" 它让无家可归者被物化,使接收者陷入恐慌,还浪费警力资源 "。
华盛顿州奥克港警方也指出,"AI 无家可归者 " 恶作剧带来了安全隐患,一度让人误以为 " 有流浪者闯入奥克港高中校园 "。警方提醒,AI 能生成极具欺骗性的影像,虚假信息传播极快,容易引发恐慌并干扰公共安全。
一些执法部门警告,这类行为已超出恶作剧的范畴。俄亥俄州布朗县警长办公室在 Facebook 上发文称:" 这种行为不是玩笑,而是犯罪。" 两名涉事未成年人已被起诉。
据 IT 之家了解,类似情况也出现在英国。BBC 报道称,当地青少年同样利用 AI 整蛊父母和朋友,警方呼吁在报警前先确认可疑照片是否为恶作剧。
得克萨斯州朗德罗克警方指挥官安迪・麦金尼表示:" 恶作剧看似无害,却可能带来严重后果。年轻人常忽视这些影响,可能让真正的紧急事件被耽误,还浪费了公共资源。"
登录后才可以发布评论哦
打开小程序可以发布评论哦