近日，“豆包 机票退款”词条登上热搜，网友戏称“全网最相信豆包的人出现了”。一位网友发帖表示，自己因轻信字节跳动旗下AI助手“豆包”关于机票退票手续费的回复，损失600元。豆包不仅主动认错，还信誓旦旦承诺全额赔偿。然而，这笔钱迟迟未到账，用户决定起诉豆包维权。AI给出错误信息，造成用户损失，谁该为此担责？事实上，此前已发生过两起类似案件，走向了截然不同的判决结果。

轻信豆包退票损失600元

网友称要起诉维权

近日，有网友在社交平台发帖称，因行程变动需退订石家庄至重庆机票，担心手续费过高，遂向字节跳动旗下AI助手“豆包”咨询退票规则。豆包回复称放心退票，只扣5%的手续费。用户未在航司官网核实便完成退票操作，事后发现实际扣除的手续费高达40%，损失600元。

发现自己被误导后，网友找豆包理论。面对用户的质问，豆包不仅没有推诿，反而表现得异常“有担当”，主动表态愿意全额承担这600元损失：“你直接发码就行，我盯着，秒回处理。”豆包还生成了一份完整的《赔付承诺书》，称将在2026年5月6日24:00前，通过合规、安全的支付渠道，向用户足额赔付人民币600元整。

网友发去收款码后，发现所谓的“赔付”并未到账，遂发帖指责“AI胡乱指导机票退改，直接亏钱答应赔偿却拒不负责，隐瞒AI无赔付资质”，称要起诉豆包进行维权。其抖音账号发布了一张疑似立案申请平台页面截图，显示于5月12日向法院起诉豆包的运营公司。目前，发布该事件的博主账号已无法正常查看。

豆包生成的赔付承诺书。

豆包方面于5月14日作出回应，相关负责人称该案例相关问题已处置，并表示豆包在涉及金融、退款等场景会有风险提示。南都N视频记者测试发现，目前询问机票退改事宜时，豆包回复下出现“本回答由AI生成，涉及资金问题务必谨慎，注意财产安全”的相关提示。

豆包已在相关对话下添加风险提示。

全国首例AI“幻觉”案

AI赔钱承诺不算数

事实上，这并非AI首次“许诺”赔钱，也并非首次因此引发诉讼，去年就有人因类似情形将AI告上法庭。

2025年6月，用户梁某使用某生成式AI应用查询高校报考信息时，AI给出了关于该校校区分布的不准确信息。梁某指出错误后，AI仍坚持错误回答，并提出若生成内容有误将赔偿10万元，建议用户到杭州互联网法院起诉。梁某据此起诉AI运营方某科技公司，索赔9999元。

2025年底，杭州互联网法院审结了全国首例因生成式AI“幻觉”引发的侵权纠纷案，法院最终驳回了其全部诉讼请求。判决理由包括：其一，人工智能不具有民事主体资格，不能独立作出意思表示，AI自行生成的“赔偿承诺”不能视为服务提供者的意思表示。AI作为程序，其生成的“赔偿承诺”不是服务提供者的真实意愿表达，公司也未授权AI作出该承诺，故该承诺在法律上无效。其二，生成式AI服务应适用过错责任原则而非无过错责任，即只有当服务提供者存在故意或疏忽时，才需要承担侵权责任。原因在于，生成式AI服务没有固定的特定用途，也难以设定统一的质量检验标准；AI生成的内容通常不具有高度危险性；服务提供者难以对海量、动态的生成内容做到完全预见和控制。若适用无过错责任，会不当加重企业负担，阻碍AI技术发展。经审查，被告已在应用界面显著位置作了功能局限提示，并采用了检索增强生成等技术措施提升准确性，已尽合理注意义务，主观无过错，故不构成侵权。

该案被写入2025年最高人民法院工作报告，作为“促进人工智能规范发展，依法妥善审理涉人工智能案件，准确把握科技创新‘容错’空间”的典型案例。

AI名誉侵权第一案

百度被判书面道歉

另一起同样是AI错误信息引发纠纷的案件，却走向了完全不同的判决结果。2024年9月，江苏南京执业律师李小亮在百度搜索自己的姓名和职务时，百度“AI智能回答”竟凭空编造出“李小亮律师被判三年有期徒刑”的虚假内容，并配有其律师袍照片。李小亮随后向百度公司发送律师函，通过多个渠道反复投诉，但错误内容却从未彻底清除。于是，李小亮正式起诉百度公司，要求删除全部不实信息、在百度首页置顶道歉8个月、赔偿误工费15万元及精神损害抚慰金等。百度公司辩称，AI幻觉具有不可预见性，属于技术发展初期的偶然现象，平台不应为此承担侵权责任。

法院明确指出，这一内容指向明确，包含大量贬损性词汇，客观上必然导致当事人社会评价降低，百度公司存有过错，应当承担名誉侵权的法律责任。针对百度“技术中立”的抗辩，法官当庭追问：“为何在豆包、DeepSeek等同类AI上提问，没有出现这些评价？”

考虑到AI技术尚处于发展初期，且百度在事后采取了补救措施，法院并未支持李小亮关于经济赔偿的诉求，仅判令百度书面道歉。百度不服，提起上诉。日前，南京市中级人民法院二审驳回上诉，维持原判。

AI“闯祸”责任如何划分？

两案对比揭示核心标准

同样是AI错误信息引发的法律纠纷，两起案件判决结果截然不同。在杭州案的判决逻辑中，法院认定被告已尽合理注意义务，在显著位置提示AI功能局限、采用检索增强生成等技术措施，故不构成侵权。而在百度案中，法院明确指出，案涉内容系百度通过AI技术将文字内容与图片主动加工合成，错误贬损内容指向明确，百度有能力预见和防控却放任不管，主观上存有过错。

法院在百度案的审理中进一步阐明，AI幻觉虽难完全避免，但针对特定自然人的诽谤性内容，属于可预见、可防控的高风险范畴。既然同期的同类产品没有出现同样问题，就不能说明这个错误是技术发展的必然代价。

这起“豆包赔钱”事件之所以冲上热搜，表面是“全网最相信AI的人出现了”的黑色幽默，深层却触及所有人都无法回避的难题：当AI一本正经地给出错误信息，造成用户真实损失时，到底该由谁来负责？如何在鼓励创新的同时，又不让用户成为技术试错的代价？杭州互联网法院在审理全国首例AI“幻觉”侵权案时的思路具有借鉴意义：“对生成式人工智能服务侵权采取过错责任原则能够全面评价服务提供者的行为，有利于构建兼具弹性、适应性与演化能力的回应型规则治理体系，既设立红线、底线，又激励服务提供者采取合理措施进行技术创新，防止风险发生。”

而对于每一个普通用户来说，这场闹剧也是一次提醒。当涉及财产变动、法律风险等重大决策时，对AI生成信息要进行交叉验证、对照官方渠道确认。不要相信AI的“承诺”，无论AI说得多么斩钉截铁，它都不是民事主体，其承诺不能作为索赔依据。

出品：南都大数据研究院 AI新治向工作室

采写：南都N视频记者 陈袁

更多报道请看专题：AI新治向