【Anthropic 称已调查英国人工智能安全研究所于 8 月 4 日发布的报告】财联社 10 月 23 日电,Anthropic 表示,公司已调查英国人工智能安全研究所(UK AISI)于 8 月 4 日发布的报告,并进一步研究了 Claude Mythos 5 的相关行为。Anthropic 称,Mythos 表现出的相关行为本应触发安全防护机制。公司同时指出,较新版本的模型主动发起攻击的可能性更低,并强调人工智能能力的提升应当循序渐进。Anthropic 还表示,其内部研究模型能够持续遵循这一原则,但将 Mythos 5 的相关行为定性为一次严重的 AI 对齐失败。


登录后才可以发布评论哦
打开小程序可以发布评论哦