本文来自微信公众号：极客公园 （ID：geekpark），作者：Xin Ling，编辑：郑玄，原文标题：《INS 排名第一的网红餐厅：有美食照、有故事、有好评，只是没有这个餐厅》，题图来自：AI 生成

近日，Instagram 上一家名为 Ethos 的餐厅火了。这家餐厅在网页上的展示非常 " 高大上 "：食物精美，用餐环境一流，还有名流大佬为你调酒。凭借这些展示，Ethos 得到了成千上万个网友的点赞和追捧，在 Instagram 上吸引了 7.2 万名粉丝，成为奥斯汀排名第一的餐厅。

这看起来很正常，直到被 a16z 投资人贾斯汀 · 摩尔指出：这家 " 餐厅 " 根本不存在，Ethos 在 Instagram 上发布的食客自拍、留言、厨师介绍以及餐厅介绍全部由 AI 生成。

目前尚不知道这场闹剧的始作俑者，也就无法探究其背后动机到底是出于一场社会实验、恶搞，还是存有更多的经济、利益目的。但这件事依然给公众敲响了警钟：从 DeepFake 色情门、到明星 AI 换脸、雷军骂人事件，以及刚刚结束的美国大选期间层出不穷的 AI 生成假图片、假新闻 ……

生成式 AI 快速发展的当下，AI 造假正在以各种各样无法预料的形式占领社交媒体。相比于过去移花接木式的假新闻，AI 生成的内容更加真实，普通人更加难以分辨，同时造假成本和门槛却更低。而要维持社交平台的真实性，需要社交平台做更多的工作。

一家不存在的餐厅

Ethos 是 Instagram 上一家餐厅的账号。点开账号，里面的食物极具创意且十分诱人。芝士蛋糕上铺着流淌着新鲜蜂蜜的蜂巢，焦脆的洋葱圈外环印着滕瓦尔语撰写的 "one ring to rule them all"，仿佛中土世界的至尊魔戒。还有各种奇妙造型的美食，比如把奶酪片和生菜扎成一袭抹胸裙，草莓做的糖果小屋，恐龙形态的 " 牛角包 "。

图片来源：Ethos 餐厅 Instgram 账号

账号里不仅有精致而富有巧思的食物，用餐环境也很神奇。根据介绍，餐厅提供 " 泡澡寿司 " 服务，食客竟然可以一边泡澡一边吃水上漂来的寿司，而厨师会和食客一起泡在巨大的浴缸里，亲手制作每一件寿司。帖子下面还有对此的 " 真实 " 评论：" 上周我们不得不缩短 omakase 时间，因为有人在寿司热水浴缸里弄脏了自己。管理人员很通情达理，还免费给我们送了一杯香槟。"

这家神奇的餐厅人脉还非常强大。有一篇帖子是关于亚马逊首席执行官杰夫 · 贝佐斯在酒吧提供鸡尾酒服务。图片介绍称因为餐厅厨师和贝佐斯恰好是朋友，所以来到这家餐厅食客，将有机会品尝到贝佐斯亲自调制的鸡尾酒。

Ethos 凭借别具匠心的食物和服务，在 Ins 上逐渐积累起 7.2w 粉丝的关注。良好的用户留言与反馈，则让其成为奥斯汀排名第一的餐厅。

正当网友惊叹于这家餐厅之奇特时，硅谷风险投资公司 Andreessen Horowitz 的合伙人贾斯汀 · 摩尔（Justine Moore）看穿了真相，在社交媒体上发布了她的发现：这家名为 Ethos 的餐厅自称是一家位于德克萨斯州奥斯汀的高档餐厅，餐厅社交媒体帐户拥有数万名关注者，并且带有蓝色认证标记。然而，事实上，这家餐厅并不存在，网站上的所有信息都是由人工智能生成的。目前还不清楚是谁在运营 Ethos 账号。

图片来源："X" 截图

在相关平台上为餐厅美化图片、刷好评，这事并不新鲜。在生成式 AI 技术的时代到来之前，商家雇水军刷评论或者好评返现就能实现。如今随着技术升级，不仅 p 图、刷评论都省了，甚至 " 创造 " 一家餐厅可以直接通过 AI 完成。

生成式 AI 作为一项技术并没有好坏之分，在帮助我们更好地创作时会给人们带来乐趣，如果使用不当，则会使我们的创造能力得到退化，甚至造成恶劣的社会影响。

技术滥用，平台有责

AI 技术的发展已经让我们的生活迈入到了 " 生成 " 时代。视频生成的头部创业公司 Runway 的 CEO Cristóbal Valenzuela 在最近的一封公开信中对此阐述道："就像相机改变了我们捕捉现实的方式，AI 也正在改变我们创造现实的方式。"

Cristóbal Valenzuela 站在 AI 创作的角度，对未来的内容和媒体作出了美好的畅想：" 模拟世界，让内容能够实时自我塑造，才能消解创造与分发之间的界限。这不仅是构建全新媒体景观的基础，也将从根本上重新定义媒体：它既是互动的、生成性的、个性化的，同时又是共享和普遍的。"

这里要厘清一个概念，Cristóbal Valenzuela 所传达的，是说生成式 AI 的使用可以帮助人们更好地创作，而不是替代创作本身。

例如 Runway 一直在推动生成式 AI 创意的边界，其推出的 Gen-3 Alpha，能够从简单的提示词生成高质量视频。这就把创作者从需要使用各种复杂的制作工具中解放出来，大大降低人们创作的门槛，真正释放人们讲好故事的创意能力。

因此，AI 替代的是 " 生成 " 部分，而不是 " 创作 " 部分。如果意图在创作部分使用 AI，会造成过分依赖 AI，令人在创意上产生惰性，同时也抹杀了 " 人 " 在内容创作中自然带来的温度与情绪。

例如某外卖平台最近上线的新功能里，用户可以用图文形式发布自己购买过的外卖订单，帮助其他用户发现优质的商品和商家。发布过程中，平台提供了 "AI 帮你写 " 功能，让用户可以使用 AI 技术一键生成文案。这一功能，虽然看似降低了用户的创作门槛，但是在实际体验中，让创作过程完全消失，内容的社交真实感也因此大打折扣。

因此，平台需要在恰当的环节为人们提供 AI 技术能力的帮助，而不是粗暴地让 AI 帮助造假。

此外，对于那些出于某种目的，在平台上使用并传播 AI 造假内容的行为，平台也负有去伪存真的鉴别与清理责任。本文提到的这家不存在的餐厅只是一条漏网之鱼。在今年的美国大选期间，Facebook 平台上虚假图片的传播产生了更恶劣的影响。

在刚刚结束的美国大选，Facebook、Instagram 等社交媒体作为党派发表政见、吸引选民投票的重要平台，成为 AI 生成图片泛滥之地。极客公园最近发布的文章《比飓风更可怕的，是一张 AI 生成图片》中就提到，在碎片化的社交媒体平台，政客们随意使用 AI 生成的照片来宣传政见，攻击对手。感性的印象取代客观事实，" 造谣一张嘴，辟谣跑断腿 " 的传播学原理在 AI 时代更猛烈地回响着。

美国 Pew Research 最近的一项调查发现，66% 的美国人表示，他们 " 至少有时 " 会遇到被篡改或者完全虚构的内容；63% 的人表示，捏造或更改的图像或视频会导致人们对于时事的 " 认知混乱 "。

在 AI 生成内容的时代，内容的真实性和可信度受到了极大的挑战。对于这些社交平台来说，用户对平台的信任是其最大的资产。如果平台不引导大家往正确方向去使用，放纵虚假信息的传播，当用户有一天对平台失去信任的时候，平台将被反噬，变得毫无价值。

平台：已经行动，仍需努力

事实上，针对日益泛滥的 AI 内容，Meta 这样的平台企业已经开始采取行动。

Meta 的最高政策主管曾在今年二月表示，该公司将在未来几个月开始使用一套内置在文件中的隐形标记，检测和标记其他公司的人工智能服务生成的图像。

Meta 全球事务总裁 Nick Clegg 在一篇博客文章中写道，公司将对发布在 Facebook、Instagram 和 Threads 服务上的任何带有标记的内容应用这些标签，以向用户表明，这些图像——在很多情况下类似于真实照片——实际上是数字创作。

Clegg 表示，一旦新系统启动并运行，Meta 将对 OpenAI、微软、Adobe、Midtravel、Shutterstock 和谷歌运营的服务上创建的图像进行同样的处理。

值得注意的是，该行动开始于今年二月份，这家名叫 Ethos 的餐厅一直在 Instagram 上火到了十月份才被揭破身份，而美国大选期间 Facebook 上的假图片也没有被第一时间识别清理。

Meta 在上周刚刚发布的财报中多次强调，公司本季度社交 " 应用家族 " 部分的广告收入增长 19%，主要归功于 AI 技术的应用。很显然，AI 为 Meta 带来可观的收入，但是在为用户提供足够清朗的社交环境方面，Meta 仍需努力。