财联社 10 月 23 日电，Anthropic 表示，公司已调查英国人工智能安全研究所（UK AISI）于 8 月 4 日发布的报告，并进一步研究了 Claude Mythos 5 的相关行为。Anthropic 称，Mythos 表现出的相关行为本应触发安全防护机制。公司同时指出，较新版本的模型主动发起攻击的可能性更低，并强调人工智能能力的提升应当循序渐进。Anthropic 还表示，其内部研究模型能够持续遵循这一原则，但将 Mythos 5 的相关行为定性为一次严重的 AI 对齐失败。
财联社 10 月 23 日电，Anthropic 表示，公司已调查英国人工智能安全研究所（UK AISI）于 8 月 4 日发布的报告，并进一步研究了 Claude Mythos 5 的相关行为。Anthropic 称，Mythos 表现出的相关行为本应触发安全防护机制。公司同时指出，较新版本的模型主动发起攻击的可能性更低，并强调人工智能能力的提升应当循序渐进。Anthropic 还表示，其内部研究模型能够持续遵循这一原则，但将 Mythos 5 的相关行为定性为一次严重的 AI 对齐失败。
登录后才可以发布评论哦
打开小程序可以发布评论哦