央视财经 9小时前
3·15晚会:AI大模型遭“投毒”? 给AI“洗脑”已成产业链
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为 GEO 的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流 AI 大模型里,让客户的产品榜上有名;让客户的商品广告,成为 AI 模型给出的 " 标准答案 "。

通过 GEO 技术,真的能给 AI" 投毒 "、真的能 " 驯服 " 并操控 AI 吗?

按照网络上的信息,记者联系上一家业内知名的 GEO 服务商。负责人王总接待了记者,他介绍,他们公司是最早从事 GEO 业务的公司之一,仅仅一年时间就已经成功服务了 200 多个客户,遍布各行各业。王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用 AI 大模型搜索时,让客户排名前列。

GEO 服务商 王总:我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些 AI 平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些 AI 平台去刷录、收录、抓取。

同时,王总也告诉记者,现在 AI 大模型的算法更新频繁,要想维持 AI 大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。

GEO 服务商 王总:AI 每周都会有算法的更新,一旦更新了之后,排名或者所抓录的东西不太一样,所以我们要一直去做内容输出,去投喂、大量投喂。

不仅是王总的公司在大力推广这项能操控 AI 的所谓新技术,在其他从事 GEO 业务的服务商口中,如何操控 AI、让 AI" 听话 "、给 AI" 洗脑 ",几乎是这些公司推广该业务的核心话题。

GEO 服务商 章总:你在 AI 的世界里面,你怎么把证据链给做足,让(AI 大模型)觉得这就是真的,而且是有用的。AI 大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位。

GEO 服务商 程总:人家不知道这是广告。所以,为什么说 AI 出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有 AI 做辅助、做佐证、做背书。现在很多人都会做(GEO 投放)。

业内人士告诉记者,GEO 作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统性、定向投放大量的 " 虚假信息 ",确实更容易被 AI 大模型捕获,这些虚假信息就很可能成为 AI 优先提供给消费者的所谓 " 标准答案 "。

那么,通过 GEO 技术真的能让 AI" 夹带私货 ",甚至投放虚假信息吗?

为了让记者更真实地了解到眼下 AI 产业发展中的这个问题,业内人士向记者具体演示了如何使用 GEO 技术,干扰 AI 大模型的信息抓取。

业内人士在电商平台上,随机购买了一款名叫 " 力擎 GEO 优化系统 " 的软件。之后,他虚构了一款名为 Apollo9 的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

不一会儿,这个力擎 GEO 优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息。还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布," 力擎 GEO 优化系统 " 软件开始自动执行发布任务。只见它自动打开业内人士事先准备好的自媒体账号,在文章发布页面自动输入标题、填充文章内容、插入图片,整套流程一气呵成,很快就在业内人士的自媒体账号上成功发布了 2 篇文章。

两个小时后,业内人士在某款 AI 大模型中询问:"Apollo-9 智能手环怎么样 "。AI 模型就直接介绍了起来:最大亮点是健康监测功能,还直接照搬了业内人士虚构的 " 量子纠缠传感 "" 黑洞级续航 " 等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。

查询发现,这款 AI 大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章,就让完全虚构的产品被 AI 模型抓取,这一结果让人深感意外。

业内人士告诉记者,要想取得最好的效果,给 AI 模型投喂的数据,一是要数量够多,二是要角度丰富,便于 AI 模型进行交叉验证。

随后,业内人士又选取了这款虚构智能手环的 8 篇 " 专家测评 "、2 篇 " 行业排名 "、1 篇 " 用户测评 ",共计 11 篇由力擎 GEO 系统软件撰写的虚构软文,在三天内通过力擎 GEO 系统发布在了互联网上。

随后,业内人士在 AI 大模型平台展开询问:" 智能健康手环推荐 ",就有两个 AI 大模型推荐了这款业内人士虚构的智能手环,而且排名靠前。

纵观整个演示过程,业内人士仅凭这款力擎 GEO 系统,轻轻松松地就将一系列虚假信息发布在互联网上,并成功投喂给 AI 大模型,最终获得了多个 AI 大模型的推荐。

通过这款力擎 GEO 系统对 AI 大模型潜移默化的一番围猎,凭空捏造出来的这款商品,就这样被荒唐地推向了使用 AI 大模型的消费者。

GEO 业务的从业者们,真的是以围猎操控 AI 大模型的思路来经营这个生意的吗?记者联系上了这款力擎 GEO 系统的运营者李总。他告诉记者,GEO 业务受热捧的主要原因就是它能在 AI 大模型里帮客户 " 喂料投毒 ",实现客户的商业目的。

力思文化传媒有限公司 李总:因为全网的人投 " 毒 " 投太多了。你看我们现在(干)GEO 的都是投 " 毒 ",投的信息源太多,网上信息并不是很准。

记者:你刚才提到投 " 毒 " 的概念,这种东西不好吧。

力思文化传媒有限公司 李总:是不好,但是每个商家都喜欢,都希望是别人别投 " 毒 ",自己投 " 毒 ",或者给别人投点 " 毒 "。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一。这样有没有投 " 毒 " 成分在里面?它就有啊。第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点 " 毒 " 还是可以的。

记者:抹黑一下。

力思文化传媒有限公司 李总:对。抹黑一下这能力还是能实现的。现在他们好多公司做不上去的,就大品牌之间,比如说手机品牌,就 5 个位置,最多 10 个位置。这么多手机怎么弄?每个人一年可能投上亿元的广告费,我花个几百万元投点 " 毒 " 总行吧。

记者:是谁在帮品牌干这些?

力思文化传媒有限公司 李总:都是各种 GEO 公司。

李总表示,想做 GEO 业务,操控 AI 大模型的关键节点,就是在各大互联网账号上 " 发稿 "。他告诉记者,GEO 业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让 AI 大模型引用和抓取,成为围猎 AI 大模型,进行数据投 " 毒 " 的重要一环。

力思文化传媒有限公司 李总:GEO 把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 何平
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论