" 豆包识别这是鸡腿菇,可以吃 " ——因为 AI 的一则误判,一位用户将小区里采摘的蘑菇做成了菜。吃完之后,人进了医院。
6 月 5 日," 豆包误判蘑菇致用户中毒 " 的话题冲上热搜,引发全网对 AI 安全性的深度拷问。随后,抖音集团副总裁李亮发文回应,证实了此事并披露了关键细节。
据李亮披露,事发后豆包团队已联系上当事用户。还原事情经过,豆包识别流程其实给出了一个 " 自相矛盾 " 的答案。
用户使用豆包拍照识别从小区摘到的蘑菇时,AI 将其识别为 " 鸡腿菇 "。但在同一份回复中,豆包也明确给出了警示性文字:" 极容易和剧毒的大青褶伞混淆,误食会引发严重的胃肠炎症状 ",并明确建议:" 如果这几朵蘑菇是野外采摘的,强烈建议不要食用。"
同时,豆包的回复中还强调:" 野生蘑菇的辨别风险极高,仅凭图片无法 100% 排除有毒相似种的可能。"
然而,用户最终选择性地 " 听到 " 了前半句—— AI 说这是 " 鸡腿菇 ",忽视了后半句的强烈警告。一顿 " 野味 " 下肚,代价是中毒入院。
面对这起 "AI 辅助误判 " 引发的中毒事件,李亮在回应中既没有回避问题,也没有将责任完全推给用户。
他承认 "AI 目前还在发展阶段,豆包也在不断提升识别准确性 ",同时划出了一条清晰的红线:涉及人身安全的问题,AI 的回答仅供参考,务必多方咨询求证,以免造成伤害。
此外,李亮还提醒了一个容易被忽视的问题:小区里采摘的蘑菇或其他果蔬,即使本身无毒,也可能存在喷洒农药等安全隐患,强烈不建议食用。
专家给出的建议清晰且唯一:不采、不买、不食野生蘑菇。如果误食后出现不适,应立即停止食用、尽快催吐、保留样本并立即就医,切莫因 " 症状暂时缓解 " 而延误救治。
AI 的 " 眼力 " 正在飞速进步,从识花识草到辅助医疗诊断,应用边界不断拓展。但 " 豆包误判蘑菇 " 事件暴露了一个根本性问题:
有些决策,一旦错了,撤回键是生命。
技术可以迭代,算法可以升级,但用户对 AI 的盲目信任才是真正的陷阱。" 仅供参考 " 四个字,不该是用户协议里的免责条款,而应是每个人使用 AI 时的基本操作守则。在 AI 学会 100% 分辨毒蘑菇之前,最稳妥的 " 识别工具 ",仍然是 " 不采、不吃 " 这四个字。


登录后才可以发布评论哦
打开小程序可以发布评论哦