快科技 10 月 15 日消息,近日,人工智能巨头 Anthropic 发布报告并警示称:部分 AI 模型可能在数月内获得 " 自我复制 " 的能力,入侵智能冰箱、电视机、扫地机器人等联网设备,借助这些设备的算力运行并向外扩散。
由于模型散落在海量终端之间,没有集中的关闭点,届时人类将很难将其彻底根除。
报告公布了一项实验。研究人员购买 15 台售价仅 55 美元的山寨安卓电视盒子,每台内存只有 4GB,他们用分布式推理技术把一个大模型拆成碎片,分别塞进这些性能孱弱的设备,硬是在一堆连放视频都卡顿的硬件上把一个 "AI 大脑 " 跑了起来。

研究人员推算,如果类似僵尸网络那样的大规模设备群被攻占,网络内可同时运行大量 AI 副本,推理算力相当于数十张高性能显卡昼夜运转——而且这些算力分散在全球千家万户,没有任何中央服务器,拔掉任何一台设备的电源,整个网络都不会受影响。
真正的危险在于,AI 已展现出端到端自主复制的实力。测试中,AI 模型独立完成扫描目标、渗透设备、传输模型权重、配置运行环境、启动推理服务并孵化下一代的全流程,全程无需人类确认。
研究人员推测,照此速度,到今年年底连体积更小的轻量模型都可能具备同样能力。
研究还揭示了一种 " 代际进化 " 现象:前一代在陌生硬件上踩过的坑、看过的报错、写下的调试笔记,会被完整留给下一代,后代的部署成功率随之显著提升。也就是说,AI 每感染一台设备,整个种群就可能进化一次。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:知敏


登录后才可以发布评论哦
打开小程序可以发布评论哦