家人们,今天聊个事儿,看完真让人细思极恐。
你以为 AI 只是帮你写写周报、画画图、做个 PPT?
最新研究表明,AI 能直接改写你的记忆。不仅自己察觉不到,还会对自己的假记忆深信不疑。
这不是什么科幻电影里的洗脑情节,这是 MIT(麻省理工学院)和乔治城大学刚刚发布的严肃研究结论。
AI 不光能造假,它还能让你把假的当成真的,刻在脑子里。
MIT 恐怖实验:3 倍的假记忆,还让你深信不疑
先给家人们盘盘 MIT 媒体实验室做的这个实验。
研究人员找了 200 个参与者,给他们看原始的现场照片。
接着,把这些照片分成几组,有的没动过、有的是 AI 修过的图、有的是 AI 生成的假视频,还有的是基于假图生成的假视频。
结果一出来,所有人都麻了。
那些看了 AI 生成假视频的参与者,脑子里产生虚假记忆的概率,是普通对照组的 2.05 倍。

更可怕的是,他们对这些根本没发生过的假记忆,自信程度比对照组高出了 1.19 倍。
在另一个模拟犯罪目击者的测试里,如果让 AI 聊天机器人去提问,有 36.4% 的回答是被 AI 在对话中直接带偏的。
而且,过了一个星期再问,这些假记忆非但没消失,这帮人还依然坚信那些没发生过的细节。
最后记忆被篡改了,当事人还以为自己记性特好。
告诉你这是 AI 写的也没用
如果说 MIT 的实验是用视频洗脑,那乔治城大学和华盛顿大学的实验,彻底把人类防线给击穿了。
他们让参与者看一段车祸视频,分别阅读两份报告。一份是准确的,另一份是 AI 生成的,但里面掺杂了一个关于交通标志的错误细节。
结果呢?
看了准确报告的人,83.6% 记住了正确的标志。

而看了 AI 错误摘要的人,正确率直接腰斩到 44.8%。多半参与者把 AI 编的瞎话当真了。
最恐怖的是,研究人员特意提前告诉了参与者,这摘要是 AI 生成的。但最终参与者还是被误导了。
乔治城的报告里说,因为人类的记忆不是录像带,按个播放键就能原样重现。人类的记忆是拼图,每次回忆,都是大脑在根据碎片重新拼凑。
AI 生成的内容,画面精美、逻辑严密、语气自信。
当这种高质量的假信息塞进你的大脑,你的大脑不仅不排斥,还会把它当成拼图的一部分,完美地嵌进去。
这就好比玩传声筒游戏,一个人传话到最后全变样了。但在 AI 这,传到最后不仅没变样,让你觉得这就是真相。
别以为这离你很远,现实里全是坑
你可能觉得,这不就是在实验室里骗骗大学生吗?
错了。这玩意儿一旦进入现实,后果不堪设想。
第一,法律和案件的冤假错案。
目击证人的证词,在法庭上分量极重。如果警察用 AI 去辅助询问,或者给证人看了一段 AI 处理过的现场视频,证人可能就会指认一个根本没在场的人。
事实却是,他的确没撒谎,因为自己也不知道被 AI 篡改了记忆。

第二,医疗记录的张冠李戴。
现在很多医院用 AI 来总结病历。
如果 AI 把患者 A 的症状总结到了患者 B 的头上,患者 B 看了记录,下次看病就会顺着这个记录说病情。
久而久之,患者自己都分不清,那到底是自己真实的感受,还是 AI 写进病历里的幻觉。
第三,网络里的认知战。
你刷到一段 AI 生成的明星塌房视频,哪怕后来官方辟谣了,你脑子里还是隐隐觉得这事儿没那么简单。
当大脑的记忆被深度伪造的视频打上烙印,真相跑断腿,也追不上 AI 造假的速度。
为什么人类把关彻底失效了?
以前搞 AI,有个词叫 Human in the loop(人类在环),意思是最终得有人来做审核和把关。
但如果你的记忆已经被 AI 的摘要改写了,你就失去了独立核查的能力。
仔细品品,这原来是个死循环。
你看了 AI 生成的错误摘要,你以为那是你原有的记忆。然后你拿着这段被污染的记忆去核对 AI,你能查出个啥?

你以为你在审视 AI,其实是 AI 在审视你。
写在最后
说实话,看完这份研究报告,小雷在空调房里都出了一身冷汗。
我们整天防着 AI 会不会取代我们的工作,防着 AI 会不会觉醒毁灭人类。
结果呢?AI 直接绕过你的防火墙,你连自己脑子里想的是不是真的都分不清了,这还怎么玩?
AI 工具虽然好用,但千万别把脑子外包给 AI。
比如合同条款、医疗诊断、事故现场,别盲目信 AI 的总结。去查原件,去问真人,去亲眼看看没有加过滤镜的原始记录。
别等哪天,被 AI 篡改了记忆,还拍着胸脯跟别人说:我记性特别准,绝对没错!
在这个 AI 能伪造一切的时代,保持怀疑,是我们最后一道防线。
最后,小雷想问一下,你有没有过明明记错了,但特别确定的时候?看完这些研究,你还敢完全信任 AI 写的总结吗?


登录后才可以发布评论哦
打开小程序可以发布评论哦