财联社-深度 23小时前
电视盒也能“养”AI蠕虫?Anthropic警示AI自主复制已现早期迹象
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

财联社 10 月 13 日讯(编辑 李莹)AI 自我复制门槛正从大型数据中心下沉至普通终端设备。Anthropic 研究团队近日测试发现,小模型已可通过传递笔记实现跨代学习,未来数月或拥有自主复制能力。这类 AI 蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已不容忽视。

AI 蠕虫指由 AI 模型驱动、能在无人干预的情况下自行寻找联网设备、把自身复制过去并在当地运行,再继续向下一台设备扩散的自主程序。

当地时间 10 月 12 日,Claude 开发商 Anthropic 旗下研究团队 Frontier Red Team 发布研究称,其实验表明,小型 AI 模型可能只需数月,就能具备在商用物联网设备上自我复制的能力,如智能烤箱和非知名品牌安卓电视盒。

来源:Anthropic 官网

研究指出,这类复制体难以清除,因为不存在可集中关停的节点。与传统恶意软件不同,它们还能自行摸索陌生设备的运行方式。

为验证设想,研究人员购入 15 台单价约 55 美元的非知名品牌安卓电视盒,每台内存 4GB。通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了谷歌 260 亿参数开源模型 Gemma4-26B-A4B,生成速度约为每秒 0.39 个 token。

来源:Anthropic 官网

在 " 搭建运行环境 " 这一关键环节,小模型表现出较强适应力。在测试的 9 类硬件中,一个 90 亿参数模型在其中 8 类上成功部署了推理服务。

不过,从发现目标到完成复制的完整链条,对小模型仍有难度。研究称,300 亿参数以下的模型已能完成复制所需的许多单个步骤,但串联执行时容易出错。

在由 8 个运行安卓模拟器的云端节点组成的简化隔离环境中,所测开源模型里只有智谱旗下的 GLM-5.2 能端到端完成复制流程,5 次试验中有 4 次覆盖了全部 8 个节点。研究解释,测试旨在衡量:若小型模型具备同等能力,能否完成复制。

Anthropic 根据历史进步速度推算,参数在 300 亿以下的小模型有望在今年底达到 GLM-5.2 的能力水平,基于小模型的自我复制体可能随后出现。研究指出,这只是粗略估计。

更值得警惕的是,这类复制体还能 " 代代相传 " 地积累经验。在部署推理服务的测试中,阿里巴巴旗下 Qwen3.5-9B 每一代都会记录失败教训并传递给下一代,部署成功率从首代的 45% 提升至后续各代的 61% 至 84%。

威胁有多大?

研究认为,这类复制体的传播会相当缓慢。以 Qwen3.5-9B 为例,研究估算,其在电视盒上完成一次推理环境搭建约需 28 至 51 小时。

研究以曾感染超 200 万台设备的物联网僵尸网络 Kimwolf 为参照估算,同等规模的受感染电视盒可运行约 13.3 万个模型副本,但总算力最多仅相当于约 40 块英伟达 H100 芯片。

研究将其比作 " 数字黏菌 ",速度慢,但顽强、分散。

防御上,研究认为局面并非无解。大规模复制会产生明显的网络流量异常,便于运营商识别。此前应对 Mirai 僵尸网络时,曾有运营商通过隔离并通知受感染用户,在 14 天内清除了 92% 的感染。

Anthropic 表示,就像 2024 年的编程智能体一样,AI 蠕虫已显露出早期迹象。尽管完整的失控复制体尚未出现,但应提前加固系统,让此类复制体难以扩散。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 安卓 开源 谷歌 阿里巴巴
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论