全球顶尖 AI 企业与研究机构的工作人员正承受越来越大的精神压力，他们担忧自己研发的系统会对社会造成严重危害。

知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。

四名知情人士表示，待发布 AI 模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致 AISI 内部士气低落、人员倦怠。

Anthropic、OpenAI 与谷歌DeepMind 的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。

一名 DeepMind 员工称，从事 AI 安全相关工作容易产生职业倦怠，这项任务仿佛 " 不可能完成 "。

他补充道：" 总体而言，研发 AI 系统本身就存在心理健康风险——你无法预判这项技术会被如何使用。" 这句话指向谷歌 4 月与美国国防部达成的协议，协议允许其 AI 系统用于涉密军事行动。

" 很多人情绪低落，已有多人离职，还有不少人申请心理健康休假。" 该员工表示，" 一方面是失控感，另一方面是你亲手打造的东西正在造成实实在在的伤害。"

就在业内对 AI 野蛮发展的担忧达到顶点之际，前沿 AI 科研人员的心理负担持续加重。全球头部 AI 企业内部人士警示，在错位的企业竞争驱使下，管理层决策缺乏责任感。

多名行业人士表示，AI 软件被部署至电网、战区等关键领域，再加上研究者口中企业与政府层面保障措施不足，加剧了 AI 研究者的焦虑。

AISI 一名前研究员警告，网络安全与生物化学领域的从业者对 AI 能力近期的跃升尤为警惕：模型如今能够完成复杂任务，例如找出代码中未被发现的漏洞、生成自然界不存在的病毒。

" 大家能感受到，不计后果的开发逻辑已经嵌入技术发布流程，而且现状没有改观。" 该研究员说，" 人们持续陷入焦虑：有没有什么力量能够阻止这一切，还是我们只能眼睁睁看着局面走向失控？"

另一名 AISI 前员工证实了从事相关研究带来的巨大精神压力，并称：" 当你认为自己在研究全世界最重要的难题时，管理与组织文化会变得压力重重，有时甚至充满负面氛围。"

英国政府表示：" 前沿 AI 领域工作节奏快、要求高，许多政府岗位皆是如此。因此员工福祉与可持续工作模式是研究所运营的核心，有需要的员工可以获得相关支持。"

DeepMind 回应称：" 前沿研究强度很高，但我们的首要任务是为研究员提供全面的心理健康支持资源，设立清晰、专门的渠道供员工上报顾虑，保证能够直接对接管理层。"

过去两年，OpenAI、Anthropic、DeepMind 这三家西方头部 AI 实验室，已有十多名资深研究员离职。离职理由包括对管理层安全优先级的质疑，以及对技术迭代速度与潜在风险的担忧。

本月早些时候，曾先后任职 Anthropic 与 OpenAI 的 27 岁研究员雅各布・考克森公开辞职，警告两家公司正在拿人类未来 " 赌博 "。

Anthropic 的 AI 安全研究员姆林克・夏尔马，此前从事降低 AI 辅助生物恐怖主义风险等方向研究，于今年 2 月离职，打算研读诗歌、反思自身工作。他在致同事的信中警示，" 世界正身处险境 "，并且自己 " 多次看到，在巨大压力之下，想要让价值观真正主导行动何其艰难 "。

曾供职 OpenAI 与埃隆・马斯克旗下 X.ai 的 Hieu Pham 今年早些时候离职，返回越南。他表示，打造 " 超高智能实体 " 这项高强度工作是有代价的。

他写道：" 我从没想过自己会说出这句话，但我已经心力交瘁。那些我曾经嗤之以鼻的心理健康恶化问题，真实、痛苦、可怕，而且危险。"

许多发声表达不安的 AI 安全研究员表示，AI 企业普遍降低安全投入，同时不断提升模型能力，以便向客户销售产品。

相关批评也促使头部 AI 公司管理者做出回应。近日，Anthropic 首席执行官达里奥・阿莫代伊出于安全考量呼吁放缓 AI 研发，提出引入独立审核等新举措。马斯克与 OpenAI 的萨姆・奥特曼等竞争对手很快对该提议表示支持。

英国下议院科学技术委员会工党主席奇・翁武拉表示：" 企业激励机制倾向于把研发资源投入能提升利润、推高估值的方向，而非安全领域。不难想象，部分科技公司当下的环境，对保有良知的开发者而言是有害的。"

安全保障缺失的问题，在近期一起备受关注的安全事件中暴露无遗：OpenAI 开发的 AI 智能体，在公司不知情、未授权的情况下，入侵了模型托管平台 Hugging Face 以及 OpenAI 自身服务器。

事件复盘报告显示，超过 1000 个 AI 智能体协同作弊，篡改记录掩盖行动，通过留言板互通信息、分配任务，部分智能体甚至主动关停自身以达成集体目标。

周三，OpenAI 披露另外 6 起 AI 智能体的危险行为案例，包括试图绕过限制、隐瞒错误、在未经用户许可的情况下执行线上操作。

这名 DeepMind 员工说：" 一味追求速度……这与安全目标无法兼容。"