财联社 10 月 13 日讯(编辑 李莹)AI 自我复制门槛正从大型数据中心下沉至普通终端设备。Anthropic 研究团队近日测试发现,小模型已可通过传递笔记实现跨代学习,未来数月或拥有自主复制能力。这类 AI 蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已不容忽视。
AI 蠕虫指由 AI 模型驱动、能在无人干预的情况下自行寻找联网设备、把自身复制过去并在当地运行,再继续向下一台设备扩散的自主程序。
当地时间 10 月 12 日,Claude 开发商 Anthropic 旗下研究团队 Frontier Red Team 发布研究称,其实验表明,小型 AI 模型可能只需数月,就能具备在商用物联网设备上自我复制的能力,如智能烤箱和非知名品牌安卓电视盒。

来源:Anthropic 官网
研究指出,这类复制体难以清除,因为不存在可集中关停的节点。与传统恶意软件不同,它们还能自行摸索陌生设备的运行方式。
为验证设想,研究人员购入 15 台单价约 55 美元的非知名品牌安卓电视盒,每台内存 4GB。通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了谷歌 260 亿参数开源模型 Gemma4-26B-A4B,生成速度约为每秒 0.39 个 token。

来源:Anthropic 官网
在 " 搭建运行环境 " 这一关键环节,小模型表现出较强适应力。在测试的 9 类硬件中,一个 90 亿参数模型在其中 8 类上成功部署了推理服务。
不过,从发现目标到完成复制的完整链条,对小模型仍有难度。研究称,300 亿参数以下的模型已能完成复制所需的许多单个步骤,但串联执行时容易出错。
在由 8 个运行安卓模拟器的云端节点组成的简化隔离环境中,所测开源模型里只有智谱旗下的 GLM-5.2 能端到端完成复制流程,5 次试验中有 4 次覆盖了全部 8 个节点。研究解释,测试旨在衡量:若小型模型具备同等能力,能否完成复制。
Anthropic 根据历史进步速度推算,参数在 300 亿以下的小模型有望在今年底达到 GLM-5.2 的能力水平,基于小模型的自我复制体可能随后出现。研究指出,这只是粗略估计。
更值得警惕的是,这类复制体还能 " 代代相传 " 地积累经验。在部署推理服务的测试中,阿里巴巴旗下 Qwen3.5-9B 每一代都会记录失败教训并传递给下一代,部署成功率从首代的 45% 提升至后续各代的 61% 至 84%。
威胁有多大?
研究认为,这类复制体的传播会相当缓慢。以 Qwen3.5-9B 为例,研究估算,其在电视盒上完成一次推理环境搭建约需 28 至 51 小时。
研究以曾感染超 200 万台设备的物联网僵尸网络 Kimwolf 为参照估算,同等规模的受感染电视盒可运行约 13.3 万个模型副本,但总算力最多仅相当于约 40 块英伟达 H100 芯片。
研究将其比作 " 数字黏菌 ",速度慢,但顽强、分散。
防御上,研究认为局面并非无解。大规模复制会产生明显的网络流量异常,便于运营商识别。此前应对 Mirai 僵尸网络时,曾有运营商通过隔离并通知受感染用户,在 14 天内清除了 92% 的感染。
Anthropic 表示,就像 2024 年的编程智能体一样,AI 蠕虫已显露出早期迹象。尽管完整的失控复制体尚未出现,但应提前加固系统,让此类复制体难以扩散。


登录后才可以发布评论哦
打开小程序可以发布评论哦