驱动之家 4小时前
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 8 月 1 日消息,当地时间 7 月 30 日,谷歌正式为网页版谷歌地球上线 AI 图像生成工具,依托 Gemini 旗下 Nano Banana 2 大模型,用户只需要定位全球任意地点,输入文字指令,就能基于真实卫星航拍底图生成全新场景。

谷歌最初介绍,这项功能可用于城市规划设想、历史场景复原、地理教学创作等用途,然而上线短短数小时,画风逐渐跑偏,并衍生出巨大的潜在风险。

多名开源情报研究者、事实核查记者率先开展测试,发现系统缺少严格的关键词拦截机制,几乎没有限制条件,能够随意生成各类高度逼真的虚假灾害、地缘冲突卫星影像。

研究者成功制作出大量以假乱真画面:美国国会大厦被洪水淹没、伊朗核电站起火爆炸、城市出现巨型爆炸弹坑、边境大规模难民聚集、战区建筑遭受空袭损毁等场景,甚至能被 AI 检测工具鉴定为真。

不同于普通 AI 绘图,这套工具直接依托谷歌地球真实地理坐标合成图像,而谷歌地球长期是全球记者、调查机构开展突发事件事实核查的核心工具,大众普遍默认卫星截图具备可信度。

普通人仅凭肉眼很难区分原始航拍图与 AI 合成画面,一旦虚假灾难卫星图在社交平台快速传播,极易制造大范围网络恐慌,干扰灾害、国际冲突事件的信息甄别工作。

功能引发争议后,谷歌官方回应称,所有 AI 生成图片都会嵌入 SynthID 隐形水印,并且生成图像不会自动同步至谷歌地球公开地图。

但在网络传播过程中,绝大多数网民只会转发截图,经过裁切、二次压缩后,隐形水印极易失效,预警作用大打折扣,无法从源头阻止虚假信息扩散。

业内人士评价,地理空间 AI 工具有特殊风险,普通 AI 绘画更多用于创意内容,而绑定真实地理位置的合成卫星影像具备天然可信度,被恶意利用之后,制造虚假灾难传闻、煽动地缘矛盾的危害远超一般图片。

迫于舆论压力,谷歌在 7 月 31 日发布官方声明表示,不少用户传播的生成截图违反平台内容政策,在搭建完善、更强的内容风控体系之前,暂时移除这项 AI 生图功能,并且没有公布重新上线的具体时间表。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 谷歌地球 谷歌 卫星 地理
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论