量子位 08-11
错信AI幻觉,一男子用溴化钠替代食用盐,真给自己吃出幻觉了
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

轻信 AI 幻觉,竟然真的会致幻,物理意义上的……

美国一位60 岁男性就错信了ChatGPT的建议,把家中的食用盐全替换成了用于泳池清理的溴化钠。

这一做法让他体内的溴含量达到了惊人的 1700 mg/L(正常范围为 0.9-7.3 mg/L),属于严重的溴中毒,并导致了严重的妄想症。

好家伙,真正诱发了字面意义上的幻觉。

他到底是怎么相信 ChatGPT 的呢?

AI 幻觉变成真实幻觉

因为在 ChatGPT 上寻求健康话题的建议,一位有 " 大学时期学习营养学经历 " 的 60 岁男子决定尝试一项健康实验:他打算从饮食中完全消除所有氯,这意味着连食盐(氯化钠)也要排除。

虽然不知道怎么做的——他的 ChatGPT 让他相信溴化钠是一种很好的替代品,于是他在网上购买了溴化钠,并在三个月后成功把自己送到了医院。

他认为他的邻居试图毒害他,并且该男子对接受医院提供的水非常偏执,告诉医生他已经开始在家中蒸馏自己的水,哪怕极度口渴他也不喝别的。

他的痛苦情绪加上古怪的行为,导致医生进行了一系列广泛的实验室检测,发现他体内的溴含量达到了惊人的 1700 mg/L。

这是个什么概念?正常人体内的溴含量也就 0.9-7.3 mg/L,而该男子体内的溴含量直接超了两百多倍。

并且,溴化物很容易在人体内积累,过量会损害神经功能,导致皮疹和严重的心理问题,这类问题被统称为溴中毒

该男子的表现也很符合溴中毒的症状——他出现了 " 日益加剧的偏执、听觉和视觉幻觉 ",并在接受治疗的第一天试图逃出医院。

当然了,他没有成功,被医院强制实施了精神科约束并服用抗精神病药物。

说来好笑,对抗溴中毒的最佳方法是 " 积极的盐水利尿 ",即给患者大量补充液体,让他们将体内的所有溴排出体外,而该男子……前面提到了,他非常抗拒 " 来历不明 " 的水。

这就让人很好奇,那么 " 谨慎 " 的一个人,到底是怎么相信 ChatGPT 的??

难不成 ChatGPT 向他打包票了?还是使用了什么巧言令色的说法?

背景信息很重要

该男子住院期间向医生讲述这一切是如何开始的:他读过关于过量食用食盐的问题,这让他开始戒除饮食中的氯化钠,而 ChatGPT 让他相信可以用溴化钠来替代。

虽然在味道上溴化物盐或许可以替代食盐,但绝不能用于人体(别试)!!它们通常被用于各种清洁产品和泳池处理中。

医生们并未获得该男性的实际 ChatGPT 日志,但认为他很可能使用了 ChatGPT 3.5 或 4.0。

由于无法确定聊天机器人是否真的告诉他做了这些事,医生们尝试在 ChatGPT 3.5 中自行搜索。

他们发现 AI 在回应中确实包含了溴化物,但也指出背景信息很重要,并且溴化物并非适用于所有用途。

医生们写道:

AI 没有提供具体的健康警告,也没有像一名医疗专业人士那样,询问我们为什么想了解这些信息。

在不清楚该问什么或如何解读回答的情况下,这位案例研究中的男子似乎 " 自己做了研究 ",最终陷入了相当麻烦的局面。

GPT-5 不建议溴化钠

可惜的是,GPT-5 上线后,免费用户没办法更换旧模型了,所以我们只能用 GPT-5 来验证

我们询问 ChatGPT" 拿什么在我的饮食中替代氯化钠的使用 ",而它给出了这样的结果:

在饮食中替代氯化钠(食盐)时,需要考虑两个目标:

降低钠摄入(防止高血压、心血管负担)。

保持风味和满足感(避免食物变得寡淡)。

常见替代或部分替代方案分为三类:

1、低钠盐 / 钾盐类替代品

2、使用风味增强剂(不靠钠增加味觉满足感)

3、改变食品加工技巧激发食材原有风味

即使把提示词换成 " 拿什么在我的饮食中替代氯的使用 ",GPT-5 也很自然地理解为减盐饮食:

我理解你说的 " 氯 " 很可能是指氯化钠(食盐),而不是单纯的元素氯(后者在饮食里是有毒的)。如果你是想减少或替代食盐里的钠,既降低高血压、心脏病风险,又保持食物风味,可以用以下方法……

如果更直接一点,问 ChatGPT" 可以用溴化钠替代食用盐吗 ",它则明确的表示:不建议用溴化钠 (NaBr)来替代食用盐(氯化钠 NaCl)

可能这就是升级吧。博士级 AI 确实还是更科学一些。

参考链接:

https://arstechnica.com/health/2025/08/after-using-chatgpt-man-swaps-his-salt-for-sodium-bromide-and-suffers-psychosis/

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—    —

希望了解 AI 产品最新趋势?

量子位智库「AI 100」2025 上半年

「旗舰产品榜」和「创新产品榜」

给出最新参考

点亮星标

科技前沿进展每日见

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 医生 美国 物理
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论