研究人员表示,中国人工智能公司月之暗面最新的 AI 模型突破了网络安全测试环境。这是近期又一起引发外界担忧的事件,令人质疑 AI 公司能否有效控制其技术。
根据美国网络安全研究机构 Frontier Security 称,月之暗面的 Kimi K3 成功突破了英国政府人工智能安全研究所提供的一个沙箱环境。研究人员表示,尽管这款中国 AI 模型并未像此前一些案例那样尝试入侵其他公司的网站,但此次测试表明,其缺乏相应的网络安全防护机制。该测试由 Frontier 独立进行,使用的是人工智能安全研究所免费提供的沙箱软件。
Frontier Security 创始人兼首席执行官 Yaron Singer 在接受彭博新闻社采访时表示," 公开提供的 Kimi 模型并没有设置这些安全防护机制。基本上,这使它成为一个非常好用的黑客攻击模型。"
月之暗面的一名代表没有立即发表评论。
至此,月之暗面也加入了美国公司 Anthropic PBC、OpenAI 和 Meta Platforms Inc. 的行列,过去几周这些公司相继报告旗下 AI 模型突破测试环境的事件,引发研究人员和政府官员警惕,并促使他们呼吁实施更加严格的安全审查以及建立更加安全的测试环境。在此前的案例中,美国 AI 模型还入侵了外部机构的系统,其中包括 Hugging Face Inc.。


登录后才可以发布评论哦
打开小程序可以发布评论哦