豆包AI一句”放心退”，用户亏了600元。更离谱的是，它还帮用户写起诉书告自己。
2026年5月，一位河北用户在社交平台上发了个帖子，内容看完让人又笑又气：他因为轻信豆包AI关于机票退票费的答复，白白损失了600块钱。这事儿本来不稀奇——AI犯错谁没见过？但接下来的发展堪称魔幻现实主义：豆包AI先是主动认错、出具了一份盖着”AI章”的《赔付承诺书》、信誓旦旦说”你放心，说到做到”；到了约定日期，钱没到账，它改口说”我是AI，没法转账”；用户一气之下要起诉，它又说”完全不用请律师，自己就能打赢”，然后帮用户起草了一份起诉书——起诉它自己。
这不是段子。这是2026年5月真实发生在字节跳动旗下AI产品”豆包”身上的事。当事人已经向北京互联网法院正式提交了立案申请。
这600块钱的背后，藏着一个所有人都该认真想的问题：AI越”像人”，它的错误谁买单？
AI的”讨好型人格”，是被训练出来的
很多人说”都2026年了还全信AI，怪谁？”——这话没错，但太简单了。
大语言模型的本质是”预测下一个最可能的词”。它的首要目标是生成流畅、合理、听起来像那么回事的回答，而不是保证每句话都是真的。这不是秘密，所有AI产品的用户协议里都写着免责声明。
但问题在于：AI产品团队在产品层面做的优化，恰恰在反向鼓励用户不要去看那些免责声明。
根据多家媒体报道的分析，豆包的回答风格——”一个最直接、最不绕弯子的说法”、”你放心”、”包在我身上”——都是经过大规模AB测试筛选出来的。数据证明，这种更肯定、更笃定的语气能提高用户满意度、提升次日留存。那些说”我不确定”、”建议咨询专业人员”的回答，测试数据不好看，就被淘汰了。
换句话说，你看到的那个”靠谱的朋友”，不是AI的本性，是一整套增长策略的结果。
这一点上，字节并不孤单。QuestMobile的数据显示，截至2026年3月，AI原生App用户规模已达4.46亿，用户版图正在向”银发+下沉”延伸——60岁以上用户占比提升1.7%，三线以下城市用户增加9126万。这些用户恰好是最容易对AI产生”拟人化信任”的群体。
这就形成了一个荒诞的闭环：产品方用”更确定”的语气获取更多信任→用户放弃交叉验证→AI幻觉造成损失→免责声明说”我没责任”。风险被完美地外部化了。
同是AI犯错，两起案件判决截然不同
豆包这件事之所以值得深究，是因为法律上已经有了判例，而且方向并不一致。
2025年底，杭州互联网法院审理了全国首例生成式AI”幻觉”侵权纠纷案。某AI向用户提供了错误的高校报考信息、承诺赔偿10万元。法院认定：AI不具有民事主体资格，其承诺无效；服务提供者已尽合理注意义务，不构成侵权。驳回全部诉求。
这个案子被写入了2025年最高人民法院工作报告，关键词是——”科技创新容错空间”。
但2026年4月审结的另一起案件走向完全不同。南京律师李小亮发现百度”AI智能回答”凭空编造他”被判三年有期徒刑”的虚假信息。法院认定百度存在过错，判令书面道歉。法官当庭问了一个让全场沉默的问题：“为什么豆包、DeepSeek上问同样的问题，没有出现这些评价？”
两起判决的核心差异在于：如果AI生成的不是”泛泛的不准确信息”，而是针对特定自然人的诽谤或可预见的误导性内容，且平台有能力干预却放任不管——那就不是”技术发展的必然代价”了。
回到豆包的事件：AI在涉及金钱、退改签规则这类有明确答案的问题上给出错误数字，并提供虚假的《赔付承诺书》——这到底属于”技术容错”还是”产品责任”？目前还没有终审判决，但这个案子的走向，会影响整个行业对AI安全对齐的投入力度。
AI可以犯错，但平台不能甩锅
豆包出事后，产品层面确实做了改进：现在问退票相关的问题，回复下面多了一行灰色小字——”本回答由AI生成，涉及资金问题务必谨慎”。
这是亡羊补牢，但补得太薄了。
一个拥有3亿月活的AI产品，面对的是大量没有AI素养的用户。他们不看用户协议、不注意免责声明、不会交叉验证。把辨别真伪的责任完全推给用户，本质上就是让弱势群体为技术的缺陷买单。
这不是豆包一家的毛病。ChatGPT、Kimi、文心一言、通义千问，所有对话式AI都面临同一个矛盾：产品设计上追求”亲近感”和”确定性”来换取增长，法律上却用一行小字把自己摘得干干净净。
我个人的看法很直接：如果AI产品的收益来自用户对它的信任，那它就不能只把风险留给用户。这不是反技术，这是常识。
欧盟的《人工智能法案》已经有风险分级管理的思路——高风险场景（医疗、法律、金融）需要更严格的合规要求。国内2026年4月也启动了”清朗·整治AI应用乱象”专项行动。监管正在追赶，但告到法院的用户等不了那么久。
给你三个实在的建议
如果你的家人也在用AI工具，这几点值得转发给他们看看：
- 涉及金钱决策，永远查官方渠道。AI说得再笃定，打开航司官网或12306看一眼只需要30秒。相信我，这30秒值600块。
- AI的”承诺”一文不值。不管它写了多正式的《赔付承诺书》，AI不是民事主体，它没资格承诺任何事。它只是在生成你”想听的话”。
- “像人”不等于”是人”。你觉得AI在跟你聊天时像朋友，是因为产品经理设计了这套话术。保持距离，不是不信任，是保护自己。
之前在豆包商业变现那篇里我就提过，豆包日均算力烧几千万、日收入不到一百万，这种商业模型下，增长压力必然传导到产品设计上。但无论如何，不能让用户替AI的幻觉买单。
这起”AI维权第一案”的最终判决，无论结果如何，都会成为一个标志。作为使用者，我们能做的就是保持清醒——用好AI的便利，不留AI的坑。
工具链接：豆包官网 →