新浪财经 昨天
Anthropic警告:AI模型可能很快无需访问数据中心即可实现自我复制
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

Anthropic 周一表示,其实验结果显示,小型 AI 模型距离具备在商用物联网(IoT)设备(如智能烤箱和非知名品牌的安卓电视盒)上实现自我复制的能力,可能仅需数月时间。

在实验中,Anthropic 考察了 AI 模型是否能够发现存在漏洞的设备、将自身复制到这些设备中,并在无需人工干预的情况下持续传播。

Anthropic 发现,参数量低于 300 亿的小型模型能够完成复制所需的多个步骤。然而,该公司也发现,这类 AI 模型难以从头至尾完整地执行整个操作流程。

在剔除了部分安全防护步骤的简化测试中,Anthropic 发现 GLM-5.2 及更强大的模型能够实现端到端的复制。

Anthropic 警告称,具有自我复制能力的模型将难以被关停,因为它们没有集中的关闭控制点;此外,与非人工智能恶意软件不同,这类模型还能自行识别陌生设备,并将数据中心处理器作为攻击目标。

该公司的研究重点是安卓电视、智能家电及其他联网设备等物联网(IoT)产品,因为这些设备通常缺乏足够的安全防护。

该公司还警告称,如果小型模型按其历史速度持续改进,它们将能够在今年年底前实现自主复制,而基于权重的小型复制体也将紧随其后出现。

Anthropic 同时指出,此类自主人工智能系统的复制过程可能较为缓慢,且依赖于广泛可用但安全性相对较低的计算资源。该公司补充道,应加强系统防护,以增加此类人工智能智能体传播的难度。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 数据中心 安卓 人工智能 物联网
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论