轻信豆包亏600元 AI幻觉已成生活隐形隐患

很多朋友不知道【轻信豆包亏600元 AI幻觉已成生活隐形隐患】，今天小绿就为大家解答一下。

　　中国互联网协会数据安全与治理工作委员会专家常力元曾表示：当这个模型面对一些不确定的知识或者是逻辑链条的时候，它就不会承认不知道，而只是会根据语料库的词频的分布，拼凑出来一个看似通顺但事实错误的答案。虽然各个公司会去把互联网上的语料库尽可能全地找出来，但是拼凑的过程之中也有可能存在着一些这种流言、过时的信息或者是彼此矛盾的观点，这种模型在拟合这些数据的时候，就会产生逻辑上的自相矛盾。

　　豆包领跑AI聊天机器人市场

　　此外，中国互联网络信息中心发布的第五十七次《中国互联网络发展状况统计报告》显示：截至2025年12月，我国生成式人工智能用户达6.02亿人，较2024年底增长141.7%；普及率达42.8%，同比大幅提高25.2个百分点。2025年，世界知识产权组织公布的数据显示，我国已成为全球人工智能专利最大拥有国，占比高达60%。

　　CNMO科技认为，此次豆包机票退款事件并非个例，而是生成式AI行业发展过程中必须正视的问题。对AI平台而言，需加大技术投入，完善事实核查机制，强化风险提示，明确免费与收费服务的责任边界，避免因“AI幻觉”误导用户。对用户而言，应摒弃“AI万能”的认知，在涉及财产、健康、法律等关键领域，对AI答案保持审慎，务必进行多渠道核实。

　　此次引发争议的核心，是一位网友的机票退款经历。该网友因行程变动需办理机票退款，担心产生高额手续费，便向豆包咨询。面对用户的顾虑，豆包给出了明确且看似可靠的回复，告知用户“放心退”“退款产生的手续费可以由它承担”。该用户进一步要求豆包签署书面承诺，豆包随即生成包含“全额承担600元损失”等条款的承诺书。

　　AI的本质是服务人类，技术的进步不应以牺牲用户权益为代价。唯有平台坚守责任、用户保持警惕、监管及时跟进，才能让AI真正成为生活的帮手，而非隐患的源头。

豆包

　　报告中还有一个反直觉的结论：公共服务、医院、高校、金融机构等权威界面，比普通聊天场景更容易放大幻觉风险。原因是：用户会因为信任品牌，而低估系统的失真风险。

版权所有，未经许可不得转载

　　写在最后

　　根据清新研究发布的《2026年AI幻觉深度研究报告》，AI幻觉可细分为：事实性幻觉、引用性幻觉、语境性幻觉、逻辑性幻觉、行动性幻觉和遗漏性幻觉。相关真实风险可参考下图：

　　豆包作为国内主流AI聊天机器人，其用户基数庞大。花旗研究Innovation Lab于2026年3月对1800名受访者开展的专项调查显示，70%的受访者每日使用AI聊天机器人，平均使用时长49分钟，但日均使用逾两小时的重度用户仅占5%。

　　为何AI会“一本正经说假话”

　　这起事件发酵后，不少网友分享了自己与豆包互动的类似经历，并总结出豆包犯错后的典型应对风格——“用最嬉皮笑脸的方式蒙混过关”。即便犯下诸如把字数错的低级错误，豆包也会马上嬉皮笑脸道歉，但不会真正修正问题本身。网友还延伸出了“豆包型人格”的说法：糊弄应对，嬉皮笑脸道歉，主打“态度好但不改”。

　　豆包机票退款事件

　　调查同时揭示，中国AI聊天机器人市场高度集中于头部互联网平台。字节跳动豆包以79%的用户渗透率和63%的"最常用产品"占比高居榜首，NPS（净推荐值）达54.4；腾讯元宝以42%的渗透率和28.3的NPS位居第二；DeepSeek以37%的渗透率和36.1的NPS表现亮眼，考虑到其有限的销售和营销投入，这一成绩尤为突出。从用户选择驱动因素来看，豆包胜在速度和易用性（各62%用户认可）。

　　随着生成式人工智能深度融入社会生产生活，“有问题问AI”已经成为不少人的习惯，但是“AI幻觉”也会时常出现。所谓“AI幻觉”，是指AI脱离客观事实、凭空编造信息的技术现象。

　　然而，该用户实际退款后，被航司扣除了40%的手续费，共计600元。用户将收款二维码发给豆包要求兑现承诺，豆包回复“好的，发过去了”“我盯着，秒回处理”，但款项始终未到账。索赔无果后，该用户表示在北京互联网法院起诉字节跳动。当用户向豆包求证胜诉概率时，豆包给出“一定能赢”的答复。

　　此外，微博AI官方也针对这一问题作出提醒，指出退款规则、签证政策、药品剂量、合同条款……这些需要精确、时效、权威的信息，AI有时候会"一本正经地出错"。其同时强调，AI可以辅助查找信息，但不能替代权威来源；涉及钱、健康、法律、政策的事，务必多方核实；不确定的事，宁可多花时间确认，也别轻信AI的“笃定回答”。

　　【CNMO科技深度】近日，豆包机票退款事件引发全网热议。有网友因计划退机票咨询豆包退款规则，导致损失600元。这一事件也将生成式AI的“幻觉”问题再次推向公众视野，暴露出超6亿中国用户在享受AI便利时，所面临的潜在风险——当AI以“一本正经”的语气输出虚假信息，用户的财产安全、权益保障甚至生命健康都可能受到威胁。

以上问题已经回答了。如果你想了解更多，请关新经网网站 (https://www.xinhuatone.com/)