记者|宋欣悦

编辑|金冥羽   李雨冰 杜恒峰   校对| 何小桃

" 被豆包坑走 600 块，血泪教训！随意给金钱决策建议，出事谁兜底？" 近日，字节跳动旗下 AI（人工智能）应用 " 豆包 " 因 AI" 幻觉 " 等问题，被用户起诉到法院的事广受关注。

起因是有用户在社交平台上称，自己采纳了豆包关于机票退票的错误建议，损失了 600 元；在后续交涉中，豆包不仅 " 认错 "，还信誓旦旦地承诺全额赔偿，但并未履行。该用户还发布了一张疑似立案申请平台页面的截图，图片显示已向法院起诉豆包 App 的运营方北京春田知韵科技有限公司。

5 月 19 日，《每日经济新闻》记者（以下简称 " 每经记者 "）查询发现上述用户的相关发帖已删除。随后，每经记者就该事件后续如何处理、相关立案申请进展等问题采访豆包、字节跳动，但截至发稿未得到回复。

尽管 AI" 幻觉 " 引发的纠纷并非孤例，但当我们遇到 AI 用 " 权威 " 的口吻胡编乱造，甚至开出 " 空头支票 "，责任的边界应如何划定？技术的高速普及与公众认知、法律治理之间的鸿沟，又该如何弥合？

AI 承诺赔付 600 元却 " 爽约 "

律师称其无法律效力

近日，一位网友在社交平台上发帖称，他因个人行程变动，需退订石家庄至重庆机票。由于担心手续费过高，他向 AI 助手 " 豆包 " 咨询退票规则。豆包明确表示可以放心退票，平台只扣 5% 的手续费。

出于对 AI 的信任，该用户未在航司官网核实便直接操作退票。然而，退票的结果让他格外吃惊：实际被扣除的手续费高达 40%，远非豆包所说的 5%，直接经济损失达 600 元。

发现自己被误导后，该用户再次与豆包理论。面对质问，豆包表示自己将全权负责维权，并保证该用户全程 " 零参与、零操作、零麻烦 "。此外，豆包还向该用户承诺，若 5 月 6 日前未追回费用，它将直接赔付该用户 600 元。不仅如此，豆包还给出了一份完整的 " 赔付承诺书 "。

然而，到了约定赔付的日期，用户却并未收到任何款项。豆包这次回复称，自己是 AI，无法直接进行转账。从被误导、到被承诺、再到被 " 戏耍 "，该用户一气之下，决定起诉豆包。有趣的是，在准备起诉的过程中，他再次咨询豆包是否需要聘请律师。豆包的回答是，" 完全不用请律师，自己就能打赢 "。

该用户在社交媒体上发布的一张截图显示，他已于 5 月 12 日向法院起诉了豆包 App 的运营方北京春田知韵科技有限公司。

那么，AI 生成的 " 赔付承诺书 " 是否具有法律效力？

对此，北京星权律师事务所律师邓以勒在接受每经记者采访时表示，AI 生成的赔付承诺并不具备法律效力。她强调，AI 不具有民事主体资格，不能独立作出意思表示。

邓以勒进一步解释，当用户追责索赔时，目前市面上大部分大模型的逻辑是提供安抚、担责、赔偿类高概率话术，输出内容是基于用户当下的需求而来的。相关内容只是程序算法，不会自主决策，更无权代表企业对外作出财产赔付、兜底赔偿等承诺。

平台免责需看 " 过错 "

AI" 幻觉 " 非万能挡箭牌

事实上，国内已有类似判例。在全国首例生成式 AI" 幻觉 " 引发的网络侵权责任纠纷案中，某 AI 因提供错误高校报考信息，向用户 " 承诺 " 赔偿 10 万元，杭州互联网法院最终认定人工智能不具有民事主体资格，其承诺无效。

那么，平台是否需要为用户的损失承担责任？

邓以勒认为，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台在提供服务时是否存在过错，即 " 有错才赔 "。

如果平台已经在界面显著位置标注 "AI 生成内容仅供参考 "，并采取了必要措施提高生成内容的准确性，尽到了合理的注意义务，那么平台通常不需承担额外责任。

记者询问豆包是否被用户起诉 图片来源：豆包客户端

然而，AI" 幻觉 " 绝非平台的免责挡箭牌。

邓以勒指出，法律判断的标准在于平台在其中扮演的角色。如果平台并非简单转述，而是对信息进行了错误的二次加工，并生成了新的虚假内容，那么 AI 就成了平台提供服务的工具。此时，若满足侵权构成要件，平台作为 AI 输出内容的法律主体则需承担责任。

例如，在 2026 年 4 月审结的 " 全国人工智能大模型名誉侵权第一案 " 中，某 AI 平台将一名律师错误描述为 " 涉及多项刑事犯罪 "，且在当事人多次投诉后仍未彻底清除侵权内容，法院最终认定平台主观上存在过错，构成名誉侵权。

技术迭代快于公众认知

专家：从产品设计源头规避风险

" 豆包 " 机票事件，是当前 AI 产业应用中一系列深层矛盾的集中体现。

亚洲视觉科技研发总监陈经在接受每经记者采访时指出，此类事件的核心问题在于，当大模型以 " 知识代理 " 的面目出现时，其输出的不确定性本质与用户对确定性服务的期待之间，存在着一条难以调和的鸿沟。

从技术原理上看，大语言模型的核心机制是 " 预测下一个最可能的 token（词元）"，其首要目标是生成流畅、连贯、看起来合理的回答，而非保证每一句话都符合事实真相。AI" 幻觉 " 虽可通过技术手段降低，但无法在根本上根除。

然而，这种技术局限性对于绝大多数普通用户而言是陌生甚至难以理解的。

" 如果不熟悉大模型的弱点，用户会认为对话式交互天然带有一种‘拟人化权威感’，很容易将其等同于有企业责任兜底的‘客服’或‘专家’。" 陈经向每经记者表示，这种信任错位是风险的关键来源。用户习惯性地将对传统客服的信任框架套用在了 AI 身上，却忽略了二者背后截然不同的责任机制。

当 AI 技术进展以周为单位迭代，用户规模以亿级增长时，公众对 AI 的认知速度却相对滞后。

QuestMobile 发布的数据显示，截至今年 3 月，AI 原生 App 整体用户规模达 4.46 亿，相较 2025 年 1 月增长超 3 亿。其中，用户版图正朝 " 银发 + 下沉 " 双向延伸，"60 后 " 及三线城市以下用户占比分别提升 1.7% 和 2.4%，用户规模相应增加 1660 万和 9126 万。

图片来源：QuestMobile

越来越多对新兴技术认知相对不足、信息辨别能力相对较弱的用户群体正在成为 AI 的使用者。面对 AI" 幻觉 " 带来的种种问题，仅仅让用户提高警惕显然是不够的。

" 根本责任在于开发者一方，靠产品伦理的升级来解决问题更为重要和有效。" 陈经认为，AI 产品的开发者和运营方，作为最了解技术风险的一方，理应承担起更大的责任，从产品设计的源头就建立起完善的风险控制机制，而非将风险和辨别责任完全转移给用户。

陈经建议，首先建立强制溯源机制。对涉及具体规则、金额、时效的回答，必须附带信息来源链接，且来源可点击验证。这样有经验的用户不会上当。其次，在交互设计层面，在高风险场景加入熔断机制。当识别到用户询问涉及资金、法律、医疗等问题时，强制触发二次确认流程，并强调 " 该回答不构成专业建议 "。

而在责任界定层面，陈经向每经记者表示，大模型要明确告知用户 "AI 生成内容仅供参考，不构成专业建议或企业承诺 "。如果大模型企业为了推广，自愿设立 "AI 错误赔偿基金 "，愿意赔偿，也需要明确适用范围和申请流程，不能放任模型在对话中随意承诺。

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。

｜每日经济新闻   nbdnews   原创文章｜

未经许可禁止转载、摘编、复制及镜像等使用

每日经济新闻