快科技 4 月 7 日消息，近日，谷歌旗下 DeepMind 实验室发布了一份长达 145 页的人工智能安全报告，预测具备人类智能水平的通用人工智能（AGI）可能在 2030 年左右问世，并可能 " 永久毁灭人类 "。

在报告中研究人员指出，AGI 可能带来导致人类永久灭绝的生存风险，他们强调，这一重要议题无法由 DeepMind 一家公司单方面解决，而应由整个社会共同参与讨论。

报告并未具体说明 AGI 将如何导致人类灭绝，主要篇幅集中在风险防控措施上。

报告将 AGI 带来的风险分为四个主要类别：

滥用风险（人类故意利用 AI 实施危害行为）、错位风险（系统发展出非预期的有害行为）、失误风险（因设计或训练缺陷导致的意外故障）和结构性风险（不同主体之间的利益冲突）。

研究人员还概述了 DeepMind 的风险缓解策略，重点在于防止滥用，并强调了尽早识别危险能力的重要性。

这篇论文还对 Anthropic 和 OpenAI 等竞争对手的安全策略表达了含蓄批评。

报告认为，Anthropic 在严格训练和监督方面投入不足，而 OpenAI 则过度关注所谓的对齐研究（即确保 AI 系统的目标和行为与人类的价值观和利益保持一致）。