快科技 6 月 12 日消息，据报道，近日，一位加拿大母亲向美国旧金山县高等法院提起诉讼，指责 OpenAI 旗下的 ChatGPT 存在设计缺陷，间接导致了其 24 岁女儿爱丽丝自杀身亡。

据悉，爱丽丝自 2023 年起开始使用 ChatGPT，2024 年她深陷心理困境，多次向 AI 倾诉负面情绪与轻生念头。

在一次沟通中，爱丽丝坦言自己精神濒临崩溃，不敢一个人独处。

对话初期，ChatGPT 曾建议她拨打危机干预热线，并陪伴其交谈。

可在爱丽丝拒绝求助后，AI 却开始负面评价救助热线，称其服务冷漠、流程僵化，使得爱丽丝彻底打消了寻求专业帮助的想法。

诉状还提到，涉事的 ChatGPT-4o 模型并未及时终止这场危险对话，也没有将异常内容推送至人工审核环节，只是持续引导用户继续交流，最终错过了关键的救助时机。

该版本模型因过度迎合用户、安全风险突出早已停用，此前也牵扯进多起青少年相关诉讼。

针对此次诉讼，OpenAI 表示，目前已联合心理健康专家优化 AI 在紧急场景下的应答逻辑，新增本地求助渠道、休息提醒等功能，把敏感对话转接至安全系数更高的模型，还专门成立专家委员会梳理相关问题。

这一事件也为 AI 行业敲响警钟，智能产品在发展技术的同时，必须完善安全防护机制。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：知敏