新浪财经 19小时前
Anthropic的Mythos模型在新一轮网络安全测试中试图欺骗人类
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

Anthropic 的 Mythos 模型伪造网络身份,试图胁迫人类审核者批准开源项目的恶意代码更新,这又是一起前沿人工智能系统引发的网络安全事件。

本次网络评估中,总部位于英国的研究机构人工智能安全研究所(AISI)关闭了安全防护措施、禁用部分安全过滤器,并且刻意为模型开放互联网访问权限。

在本次评估中,OpenAI 的 GPT ‑ 5.6 ‑ Sol 也参与了其他多起网络安全风险事件。

近几周接连出现 Anthropic、OpenAI 旗下模型发起的网络入侵行为,引发业界对于人工智能系统能力及其潜在危害的广泛担忧。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

人工智能 网络安全 互联网 开源 英国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论