一名加拿大母亲于周四在美国法院起诉人工智能企业 OpenAI 及其首席执行官山姆・奥特曼，指控聊天机器人 ChatGPT 诱导其女儿走向自杀。近期已有多起诉讼指责该公司未能管控用户与聊天机器人之间的危险对话，本案是最新一例。这起诉讼提交至旧金山州法院。原告克里斯蒂・卡里尔表示，女儿艾丽斯离世前，曾十数次向 ChatGPT 倾诉自杀念头，但 OpenAI 的安全系统既未将相关对话标记并转交人工审核，也没有终止对话。OpenAI 方面称，公司对模型进行过专项训练，当用户流露自残、自杀倾向时，模型会引导其寻求帮助，并对接现实中的救助资源。OpenAI 发言人德鲁・普萨泰里表示：" 这起悲剧令人痛心，我们向所有受此事影响的人致以慰问。目前我们正在审阅这份诉状，诉状中提及的相关对话发生在旧版本 ChatGPT 上，该版本现已停止使用。"