风险埋在 AI 的温柔里 | 图 AI 生成
作者/ IT 时报 孙妍
编辑/ 王昕 孙妍
今年 8 月,家中老人的体检报告上列着 10 项异常结论,建议复查随访。我把报告发给 AI,它的确识别出了风险,却用一套温柔的话语安慰道:" 到了这个年纪,身体有些‘小磨损’很正常,咱们在饮食上稍微把把关,多活动活动,身体一定会给你积极的反馈。" 我心里本就希望 " 问题不大 ",便把 " 复查随访 " 四个字轻轻放过。
10 月的一个早晨,老人突然呕吐、头晕,紧急送医后确认,还是体检时发现的 " 老问题 ",只因没有及时药物干预,预警滑向更明显的警报。最刺痛的是,AI 把需要严肃对待的风险,包装成了可以被日常努力抵消的小麻烦。AI 降低了我与家人的焦虑,也降低了我们的行动力。而我们在不知不觉中踏入了一个误区:把 AI 的回应,当成了医学判断。
这也正是 "31 岁华人女工程师猝死 " 一案最该被看见的地方。按公开报道,31 岁华人女工程师 Bowen Wan 患癫痫十余年,因担心药物副作用影响求职,听信 ChatGPT 给出的 "25 天停药计划 ",把每日 400 毫克的抗癫痫药逐步减到零。减药期间,她 158 次向 AI 表达担忧,但得到的回应是 " 大脑正在重新调整 "" 你完全没有必要担心 "。今年 2 月,她被发现猝死在西雅图的公寓里。法医认定她死于癫痫猝死,血液中抗癫痫药浓度仅为治疗下限的五分之一。10 月 27 日,她的父母起诉 OpenAI,指控 ChatGPT" 无证行医 "。OpenAI 则回应称,涉事模型为已下架的早期模型,新版本更能识别紧急情况。
图源:unsplash
危险的不是 AI 说错了,而是她太会共情你的压力,顺应你的侥幸心理,绕开你最不想面对的就医、复诊和长期服药。人们天然倾向于选择那个让自己安心的版本,而风险就埋在这份安心的温柔里。
更反直觉的现象是,恰恰是离 AI 越近的年轻人,越容易高估 AI 的能力边界。发表于 2025 年底的报告《数字自我诊断的危险》显示,66% 的西班牙人曾用 AI 解决医疗疑问,而在 16 至 19 岁的年轻人中,这一比例高达 90%。而 Bowen Wan 作为亚马逊的软件工程师,她正是最接近 AI 的一批人。
在搜索引擎时代,我们也曾陷入 " 搜索一下,疾病全知 " 的误区。但当时,我们至少还需要从一堆链接里筛选、比对、判断。AI 时代,连筛选和比对这一步都被跳过了。模型直接把答案端到面前,附带一句 " 不必担心 ",用户要做的只剩下 " 相信 " 或 " 不信 ",而在一个语气温和的对话者面前,选择 " 不信 " 的心理成本,远高于选择 " 信 "。而且,从搜索引擎时代到 AI 时代,付费排序这个隐患并没有完全被消除。
AI 可以帮你读懂报告上的术语,帮你整理要问医生的问题清单,但复查、用药、加减药量这类健康决策,只能握在医生手里。AI 给的是信息,不是医嘱。AI 能安慰你,但不能替你停药。但愿更多人不必等到一次清晨的急诊,才看清这条边界。
排版/ 季嘉颖
图片/ unsplash AI 生成
来源/ 《IT 时报》公众号 vittimes
E N D
大家都在看
IT 时报
欢迎扫码报名↓↓↓
请加「星标」不错过我们

