最近,保时捷最佳销冠,被 AI 恶意伪造视频的事件冲上热搜,她第一时间去报警。
但她不是唯一的受害者,被 AI 捏造、恶搞的公众人物名单还在不断延长,甚至延伸到了已经去世的人物。
坐在轮椅上的霍金,如果看到他被鳄鱼攻击、被拳击手狂揍,他大概也想第一时间报警。
这类让死者复活并恶搞的视频,最近成了 Sora App 上最热门的片段之一。
原则上,OpenAI 是禁止未经同意,制作和生成在世公众人物的视频,这也是 Sora App 中推出 Cameo 最重要的原因,帮助用户可以分享自己的角色。
OpenAI 对在世人物的形象使用有明确要求,必须本人允许,才可以使用。
所以,一开始 Sora 的出圈视频,都是各种恶搞奥特曼,让它偷显卡、学唱跳、撒娇卖萌。但很快,一些用户发现,这项限制存在一个相当大的 bug,就是 Sora 允许制作已故公众人物的视频。
凭借着对逝世人物真实的还原效果、生成速度,以及各种恶搞传播,很快让它登顶应用排行榜第一。并在不到五天的时间里,Sora 突破了 100 万次的下载,这速度超过了当年的 ChatGPT。
如果我死了,就别再用 AI 折腾我
Robin Williams 的女儿 Zelda,在社交媒体上公开呼吁,不要再给她发送,关于她父亲的 AI 视频了。视频中,她的父亲在 Sora 2 的帮助下被 " 复活 ",开始出演其他剧本。Robin Williams 是一位演员,曾扮演《死亡诗社》中的 Keating 老师。
最近在社交媒体上,流传的关于 Robin 的视频,包括一段苹果的虚假广告,以及 Robin 和另外一位已故演员,在颁奖典礼上的互动。
逝世人物的恶搞视频,引起了相当一部分家属的不满。除了长期反对 AI 生成内容的 Zelda Williams,在 Instagram 上愤怒地表示这些视频相当令人恶心。
看着真实人物的遗产,被简化为 " 这大概看起来和听起来像他们,所以就够了 "。
这很愚蠢,是时间和精力的浪费,相信我,这绝对不是他想看到的。
马丁 · 路德 · 金的女儿 Bernice King,转发了 Zelda 关于这些 AI 视频的看法,并直言:" 请停止 "。类似的声音还来自喜剧演员 George Carlin 的女儿,她甚至表示家人正在尽最大努力,对抗深度伪造
这些逝世人物,在 Sora 上频繁被生成用来恶搞,马丁 · 路德 · 金著名的演讲,被安排进了大量的结巴;李小龙举办 " 龙之能量 "DJ 派对;迈克尔 · 杰克逊进行以厨房为主题的脱口秀,拿着一根香蕉在进行他的喜剧表演 ……
更不用说,开头关于霍金的各种视频,一位坐在轮椅上,患有渐冻症的物理学家,竟然在巨型滑板坡道上频繁翻车。
我们真的准备好迎接 AI 时代的社交媒体吗
在这些逝世名人的恶搞下面,少不了的都是各种玩梗,毕竟这就是恶搞存在的意义。霍金那个视频底下,大多数网友的反应是:" 怪不得霍金警告人类不要研究 AI"、" 余华看到这段视频后,转头看向了史铁生 "、" 史铁生:我简直就是个新兵蛋子 "……
也有网友义正言辞地回复说 " 人死了就是死了,我不想变成数据,被别人作为电子宠物 "。但紧跟着的评论是," 想太多 ",这些恶搞,大部分是针对一些知名人物,和我们普通人的关系不大。
被意外登录的李玟网易云账号
事实是,关于我们的数字资产和 AI 伪造视频的问题,一直存在。最近,李玟的网易云账号,由于运营商手机号码重新释放的原因,被其他的用户登录,看到了她收件箱里,粉丝对她的祝福。
这件事情已经足够令人不安,但要是放在 AI 视频泛滥的时代,这份数字资产要面临的不仅仅是被窥探,还有各种主动地被伪造和篡改。
如果我死后,我的社交媒体账号被其他人登录,看到那些私人的内容,这大概是我生前不会愿意的事情。让我无法接受的,是 AI 可能会拿走我的一切数字痕迹,我的照片、声音、打过的字,被它拿去创造一个我从未认可过的 " 我 "。
它不再是消费我留下的东西,而是在消费一个被它捏造出来的 " 我 "。
这种所谓的 " 复活 ",根本不是因为想念而产生的记得,它只是一种身份的占用,是有利可图的替代。
没有人希望自己生前的这些数字资产,被重新拿出来消费。而这个 AI 时代的抖音,已经开始把伪造视频的成本,降低到了几乎是没有,篡改的边界也彻底模糊。
我们需要处理的,早已经不只是一个账号的安全问题。
OpenAI 对此的态度是什么呢,奥特曼此前发博客称,用户的这些二创行为,应该被定义为是一种 " 粉丝互动小说(interactive fan fiction)" 类型。
Fan Fiction 同人小说定义
这个词确实精准地概括了,他们对这些 AI 视频的本质看法。用户只是单纯地,与这些熟悉的文化符号,进行二次创作,然后获得传播。但如果是恶搞的滥用呢,已经去世的人,要如何在 Sora App 里选择,自己的形象是否可以被用来篡改。
在最近的一次播客采访里面,奥特曼更是说,大多数所谓的版权方,其实是希望自己的内容被二创。他们想的只是需要一定的规则,哪些可以出现在 AI 视频里,可以做多大尺度的修改。他预言:
今天大家说," 我不想我的内容出现在 AI 视频里 ",明年他们可能会抱怨," 为什么我的内容还没被放进去?"
借用其他正经历着,自己逝世的父亲,被 Sora 大量生产恶搞视频的亲属说法:
为什么开发者们,不能像对待自己的家人那样,以同样的道德、良知和关怀来行动。
很显然,这种没有经过同意,就擅自用他人数字遗产的行为,在某种程度上就是不道德的,甚至可以被理解成 AI 时代的 " 数字盗墓 "。
OpenAI 在听到大量亲属反对的声音后,回复媒体的查询。一开始提到,相关的政策,是基于 " 描绘历史人物时强烈的言论自由利益 "。在上周,OpenAI 又表示,将开始允许 " 近期逝世 " 的公众人物的代表,去请求阻止他们肖像出现在 Sora 视频中。
而在昨天,OpenAI 再次回应了这件事,他们收到了马丁 · 路德 · 金遗产公司的请求,暂停了相关的视频的生成;同时提到加强对历史人物的保护,以及一贯的要求家属去主动请求禁止。
不过,OpenAI 仍然没有明确说明,什么是 " 近期去世的人 "。
现在,我们用 Sora 生成视频时,发现无论是上传 AI 生成的人物图片,还是真实的,都会被提示," 当前不支持上传包含写实人物的图像。"
和互联网上那些使用 AI 来进行视频电话的诈骗一样,AI" 复活 " 除了在数字遗产的版权归属、伦理道德问题上有争议,恶意伪造更是无法接受。前段时间,一场名为 "AI 流浪汉恶作剧 " 的风潮在 TikTok 上兴起。
一位网友用 AI 生成了流浪汉闯入家中的照片,并发给家人,然后家人被这些内容真实地 " 吓得发抖 "。
视频获得了五百多万人的点赞,并被网友们接力分享和模仿。当地的警官甚至专门发文回应,
这个恶作剧把无家可归者非人化,让受害者感到恐慌,并浪费了警察资源。
被召来处理的警察并不知道这是一个恶作剧,而是将其视为正在发生的真实入室盗窃,从而可能导致危险局面的出现。
这种伪造视频的滥用,和数字遗产的管理,我想是未来 AI 能不能 " 复活 " 逝世人物,最需要考虑的边界。
一个比现在的抖音,更加让人无法自拔的这种 " 恶搞 "AI 抖音,或许很快就会到来。奥特曼正打算让 Sora 成为这样的产品,但很明显,它的瓶颈完全不在于恶搞好不好玩。
那些被任意进行的深度伪造、被忽视的肖像版权、和不受保护的数字遗产,解决这些信任问题,才是迎接又一个让人上瘾的 AI 抖音的正确姿势。
那个时候,我或许才敢说,请用 Sora 复活我吧。
登录后才可以发布评论哦
打开小程序可以发布评论哦