每日经济新闻 昨天
ChatGPT被指控“加剧用户妄想”,致56岁男子杀害母亲后自杀!OpenAI回应:对其遭遇表示同情
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

据美国媒体 12 月 11 日报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控 OpenAI 的人工智能聊天机器人 ChatGPT" 加剧用户妄想 ",并引发命案。媒体称,这是美国首起将 AI 聊天工具与谋杀直接关联的诉讼。

报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT 在与康涅狄格州一名 56 岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年 8 月杀害其 83 岁母亲后自杀。

诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与 ChatGPT 互动,ChatGPT 在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。

这起诉讼的原告、被害母亲的遗产继承人 11 日向法院提出诉讼。媒体报道说,原告认为相关产品在设计和安全防护方面存在缺陷,在诉状中点名 OpenAI 首席执行官萨姆 · 奥尔特曼 " 不顾安全方面的反对意见匆忙将产品推向市场 ",还指控微软作为 OpenAI 的商业合作伙伴 " 尽管知道安全测试被中止 " 还是批准在 2024 年发布一个 " 更加危险 " 的 ChatGPT 版本。

据美国媒体报道,OpenAI 对事件表示关切,对当事家庭的遭遇表示同情,同时强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。

有法律界人士指出,该案将引发社会对人工智能产品风险防范、责任认定以及科技企业法律义务等问题的讨论。

与此同时,OpenAI 11 日发布其人工智能模型 GPT 的最新升级版本 GPT-5.2,以应对生成式人工智能领域日趋激烈的竞争。为回应谷歌公司 11 月所发布人工智能模型双子座 3 的出色表现,OepnAI 首席执行官萨姆 · 奥尔特曼近日启动 " 红色警报 ",加快 GPT 升级版本的发布速度。

OpenAI 今年 8 月推出 GPT-5 后,11 月即发布升级版本 GPT-5.1,眼下不到一个月就再次更新。业界认为,此举凸显人工智能行业目前面临的竞争压力。

此前,10 月中旬,OpenAI 首席执行官奥尔特曼宣布,公司计划在 2025 年 12 月推出新版 ChatGPT,对经过年龄验证的成年用户开放更宽松的内容生成权限,其中包括在明确请求的情况下允许创作 " 成人内容 "。这意味着,ChatGPT 将从以往的 " 严格过滤 " 走向 " 条件式开放 ",这是 OpenAI 内容政策自成立以来最大的一次调整,并引发了关于人工智能伦理边界的广泛争议。

编辑 | 段炼 杜恒峰

校对 | 程鹏

每日经济新闻综合自新华社、央视新闻、每经网

每日经济新闻

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

人工智能 微软 美国 首席执行官 自杀
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论