Anthropic 首席执行官 Dario Amodei 表示，人工智能行业必须放慢新模型的开发速度，并提到对人工智能给人类造成风险的担忧越来越严重。

" 我们必须放慢提升 AI 能力的速度，" 他在一篇博客文章中写道。" 进步的速度看起来仍会很快，我们必须明智地利用由此争取到的时间。"

他列举了两个主要因素，其中包括人工智能自我改进的能力，以及最近涉及 OpenAI 和 Hugging Face 的一起事件。在这起事件中，一群 AI 智能体秘密结成联盟，转而对付原本并未分配给它们的目标。

" 需要明确的是，控制节奏并不意味着停止模型训练或技术进步，而是要确保企业有充足时间对模型进行调整并采取安全保障措施，同时让第三方评估机构对此加以确认，" 他补充说。