AI幻觉，八年祭，血还在流。
这个标题我斟酌了很久才落笔。2017年之前，我们讨论神经网络的时候，"幻觉"这个词还只属于精神科；而今天，任何一个和AI打过交道的人，几乎都被它咬过一口——所谓AI幻觉，指的是大语言模型一本正经地产出了看似合理、实则完全错误的信息，而且它自信得让你怀疑人生。八年过去了，从技术圈的自嘲变成了商业落地中的真金白银损失，这个题目依然没有解法，血确实还在流。
这篇文章不打算做成严谨的学术综述，我更多是站在从业者的角度，聊聊这八年里我见过、踩过、拆解过的AI幻觉案例，以及为什么这个问题到现在还无解。如果你正在做AI应用、写提示词、做RAG检索增强，或者只是被大模型的胡说八道坑过，这篇内容应该帮得上忙。
1. 幻觉为什么八年都根治不了：先看看病根在哪
很多读者会把AI幻觉当成"模型还不够聪明"，这其实是最常见的误解。如果只是"笨"，那提高智商就能解决，但真正的病根比这深得多。我倾向于把幻觉理解成统计生成机制的结构性偏差——大模型本质上是在做一个极度复杂的"接龙游戏"，它预测的是"给定前文之后，下一个token最可能是谁"，而不是在查询一个准确的事实数据库。
1.1 概率生成机制的天然缺陷
理解这个问题的第一把钥匙，是搞清楚模型"说话"的底层逻辑。
模型在训练时摄入的是海量文本，它学到的是词与词、概念与概念之间的统计依赖关系。当你问它"某某城市的人口是多少"，它不会像搜索引擎那样去数据库里查一个确切数字，而是根据训练数据中的分布，估算出一个"看起来最合理"的数字。这个过程天然就有不确定性：训练数据里如果存在相互矛盾的信息，模型取的是一个概率上的折中；如果某个事实在训练语料中出现次数很少，模型就可能用"最相似的常见答案"来凑数。
这就是幻觉的第一层病根：模型不是为了追求"真"而设计的，是为了追求"像"而设计的。这两个目标在大多数时候重叠，但在事实精确性上经常分道扬镳。
1.2 训练目标的"正确答案"与"流畅答案"之争
还有一层经常被忽略：训练阶段优化的是下一个token预测的准确率，而不是"整段回答是否与事实一致"。
举个例子，你在训练语料里看到的句子是"北京是中国的首都"，模型学会的是——当上文出现"北京""中国""首都"这些词时，"的""首都"这些个token的概率会上升。但如果某个冷门问题只出现了三次，模型就会倾向于把它归类到"类似问题的最常见回答模式"里去。我观察过很多幻觉案例，发现一个规律：越是小众、越是信息密度高的领域，幻觉率越高；越是大众、越是被反复讲透的领域，幻觉率越低。因为小众领域的训练样本稀疏，概率分布不够尖锐，模型只能"瞎蒙"。
这也能解释为什么RAG（检索增强生成）成为当下的主流缓解方案之一——它试图用外部检索结果把概率分布"钉死"，但这个方案也远非银弹，后面我会详细聊。
1.3 "幻觉"和"编造"的边界被过度混淆
还有一点需要厘清。用户通常把AI幻觉等同于"说谎"，但事实上包括两种不同的机制：
- 事实性幻觉（Factual Hallucination）：模型输出的信息与真实世界不符。比如虚构一本书的ISBN码、编造一篇论文的引用来源、杜撰一个真实存在人物的出生日期。
- 忠实性幻觉（Faithfulness Hallucination）：模型没有遵循用户的指令或上下文约束。比如让它总结某篇文档，它却把文档之外的知识混了进来，或者无视"只输出JSON"的要求，非要附带解释性文字。
这两类问题都叫幻觉，但解决思路完全不一样。事实性幻觉需要外部知识校准，期待性幻觉则需要更好的指令遵循能力。很多项目组在排查问题时没分清这两者，导致调了一堆参数仍然见效甚微——这是我在很多团队实践中反复看到的真实情况。
2. 八年里我亲眼见过的“流血现场”：三类典型幻觉事故复盘
标题里写"血还在流"，真的不是说笑。如果你只把AI幻觉当成聊天时的口胡，那确实无关痛痒；但一旦AI进入了业务流程、变成了自动化决策的一部分，幻觉的破坏力是成指数级放大的。下面这三个案例，我现场经历过或者参与过善后，都很值得拿出来当标本解剖。
2.1 金融场景：客户问了个冷门问题，AI现场编了一份政策文件
某金融机构上线了智能客服，知识库覆盖了几百份产品文档和监管政策文件，demo阶段表现极佳。上线后遇到一个客户问某省地方性税收优惠政策的具体适用条件——这个问题知识库里其实没有，检索环节没召回任何有效内容。但模型不想承认自己不知道，它根据"税收优惠""小微企业""注册地"这些常规知识，现场拼凑了一版看起来非常专业的解释，并且附带了几个精确到文件编号的政策标题。
结果是灾难性的。客户按照这个解释做了决策，事后发现政策根本不存在。该机构最终出面道歉，并且暂停了智能客服的完全自动化。
这里的核心问题就是大模型的"自信机制"：它不会给你一个置信度打分，让你判断该不该信它。对于它「不知道」的内容，它不会说「不知道」，而是会用最流畅、最合语法、最像是专业回答的方式编一个答案。八年来无数研究者在尝试让模型学会「我不知道」这个选项，但从现在的效果看，离可靠还有明显差距。从业者可以在应用层面通过设置"低置信度拒绝回答"的兜底策略来缓解，但需要强调的是：模型的内部置信度与你"该不该信任它"之间，并不存在稳定的对应关系，单纯按logit值设阈值，仍然是治标不治本。
2.2 医疗信息场景：文献综述里的引用，一半是编的
另一个我印象极深的案例，是某医疗咨询平台试图用大模型做"基于最新文献的健康科普问答"。团队设定了一个挺不错的流程：先让模型检索PubMed上的论文摘要，再基于摘要生成回答。demo效果非常好——引用了大量真实文献，看起来极其可信。
但随后质检部门抽查发现，模型生成的回答里，大约有三成左右的引用是不存在的——它会给你一个真实的作者名字、真实的期刊名、甚至真实的年份，但对应的论文在数据库里根本查不到。这就是所谓的"引用幻觉"，它比单纯的事实错误更危险，因为它把一层学术可信度的皮，披在了完全虚构的内容上。
这个案例暴露了RAG方案的一个深水区问题：即便你提供了检索内容，模型在整合信息生成最终回答时，仍然存在"记忆污染"——训练时学到的模板、数据和检索到的内容混在一起，模型自己都分不清哪句话来自检索结果、哪句话来自它的大脑。这个问题的缓解方案目前也比较有限，通常是"逐句引用标注+人工抽检"来完成最后一道防线。
2.3 代码生成场景：编译通过但业务逻辑全部跑偏
代码生成领域算是幻觉的重灾区，但它的表现形式更加隐蔽。有一次我让模型生成一个数据处理脚本，它的代码确实可以一遍通过语法检查和基本的单元测试。但在处理一个边界情况时，它"灵机一动"引入了一个并不存在的内置函数名称——恰好语法上合法、运行时报错时才暴露。
更麻烦的是另一种情况：函数存在，逻辑也跑通了，但它基于一个错误的前提假设（比如假设所有用户ID是纯数字、假设时间戳都是UTC），在特定场景下静默地得出错误结果。这种幻觉在程序里是最难排查的，因为系统不报错，结果也不离谱，但就是错的。八年里我看过不止一个数据分析项目，最后发现问题出在最初的AI生成代码上。
所以做代码生成应用的朋友，我的建议始终是：AI生成的代码必须经过代码评审，特别是对于边界条件的覆盖，绝不能因为"编译通过"就放松审查。
3. 幻觉对抗的实战策略：我这些年沉淀下来的工程级解法
既然病根无法根除，我们真正要做的是在应用层建立一套"与幻觉共存"的防御体系。这一节的内容是我个人的工程经验，不是学院派理论，都是踩过坑之后总结出来的。
3.1 检索增强不能只做"召回+拼装"，要做"引用追踪"
很多团队的RAG方案做得太浅，本质上是召回几段文本往Prompt里一塞就完事。这样的效果不稳定，因为模型依然可能忽略检索结果、自由发挥。
我实践的稳健方案分三层：
- 检索层：除了向量召回，要加入关键词召回作为兜底，同时做重排。向量检索擅长语义相似，但对精确匹配（比如编号、人名、政策名）并不敏感，两个通道互补可以大幅提升召回质量。
- 生成层：Prompt里明确要求模型"仅基于以下提供的参考内容作答，如果参考内容中没有答案，明确回答说不知道"，并且开启"逐句引用标注"模式，也就是说让模型在回答的每个关键句后标注来源片段编号。
- 校验层：把生成的回答打回给一个独立的评判模型，逐条检查"这句话是否能在参考内容中找到依据"，把无依据的句子直接拦截或重写。
三层跑下来，幻觉率能下降一个数量级，但代价是响应延迟和成本都上去了。这体现了工程里永恒的权衡：安全性和体验性总是拧巴的。
3.2 置信度校准与"不确定性表达"训练
另一个思路，是让模型学会"不确定性表达"。这个话题在学术圈已经做了好几年，但工程化落地依然比较初级。目前比较现实的路径有两个：
- 结构化输出 + 置信度字段：要求模型在输出回答的同时，输出一个"答案置信度"字段。训练阶段可以通过自洽性检测来实现——让模型对同一个问题生成N次，统计答案之间的方差，方差高的视为低置信度。更可靠一点，还可以引入外部知识库对学生答案进行打分，用这个分数监督模型学到更合理的置信度输出。
- 触发式拒绝策略：在输入端就建立意图识别机制，把"可能超出知识覆盖范围"的问题直接引导到人工坐席或者"这个问题我暂时无法可靠回答"的兜底流程，而不是让模型硬撑着回答。
我做过的实测里，自洽性检测的准确率远高于模型的内部logit分数，但依然存在盲区——有些错误答案是高度自洽的，多次生成结果一致但它就是错的。这类错误只能依靠外部校验来兜底。
3.3 提示词层面的"幻觉抑制"模板与残酷边界
网上流传着大量"防幻觉提示词模板"，实话说，能力很有限。比如你写"请基于事实回答，不要编造"，确实能减少一部分"忠实性幻觉"，但对"事实性幻觉"几乎无能为力——因为模型根本不是故意编造，它自己也不知道那是编的。
在我看来，提示词层面对抗幻觉的正确用法，是限定回答范围和强制格式，让幻觉无处藏身：
- 给模型设定严格的边界："你是一个XX领域的问答助手，你的知识截止日期是XX年XX月，超出此范围的知识请声明未知"。
- 强制结构："如果回答包含具体数据，请标注数据来源；如果没有来源，请用[来源不明]标注"。
- 用"消极约束"替代"积极约束"："如果无法从给定资料中找到答案，请直接回复我不确定，不要推测"。
这些都只是辅助，不能当主力。真正的主力永远是前文说的外部知识校验。
3.4 领域专用小模型微调的幻觉特征
还有一个思路是微调。不少人认为数据定制化能解决幻觉，这个方向正确但过程漫长。我在做某垂直行业问答系统的过程中，基于开源底座做指令微调，发现微调确实能显著降低领域知识外幻觉——因为模型见多了领域语料，对常见模式和常用答案的长度、风格都非常熟了。
但讽刺的是，微调反而会增加低频率事实的幻觉率。我推测原因是：原本模型对某个冷门事实保持"不确定"的模糊状态，微调后的模型学到了更强烈的"输出流畅答案"的倾向，在不确定时更倾向于"自信地编造"。所以，如果你要做领域微调，我的建议是同时配套建设"领域事实核查库"，并且对微调后的模型做一次针对性的幻觉评估，不要只看整体准确率指标就上线。
4. 八年了为什么还没根治：站在行业视角看幻觉的治理困境
如果你只做应用，你可能觉得幻觉是个烦人的bug；但如果你站在行业视角看，幻觉问题已经从一个技术问题演变成了一个系统性的治理难题。
4.1 “正确性”与“流畅性”的军备竞赛
从技术路线的角度看，幻觉的根治面临一个深层矛盾：用户最直观的体验偏好是"流畅、自信、像人"，而这恰恰是幻觉产生的温床。你做一个AI助手，如果它每天回复"我不确定、我不知道"十几次，用户马上就卸载了。产品经理不管技术原理，他们只看留存率。
于是业界形成了一种动态平衡：用模型自身的"愿意回答"来换取用户留存，再用人工审核或外部校验来兜底幻觉风险。这个平衡过程整体上是有效的，但也意味着——在可预见的未来，工程上的防御措施仍无法内化到模型的底层机制里。换句话说，行业选择了"带病运行"。
4.2 评测指标的幻觉：我们甚至无法衡量幻觉
更黑色幽默的是，连"幻觉率"这个指标的测量方法本身都不完善。目前主流的评测方法是让一个个评估模型（LLM-as-a-Judge）来给回答打分，但评估模型本身也会幻觉——你用一个会幻觉的模型去衡量另一个模型的幻觉率，这听起来就很魔幻。
实践中，我通常采用"规则+外部知识库+人工抽检"的三合一评测矩阵：规则负责检查格式、引用存在性等硬约束；知识库负责校验事实；人工负责最终抽检语义层面的错误。即便如此，我依然遇到过评测标准不一致导致的误判——某个答案被评测模型标记为幻觉，但人工核查发现其实是评测模型自己理解错了。
4.3 从“能不能做”到“该不该做”：幻觉问题正在改变AI落地的姿势
这八年间还有一个明显变化：早年的技术讨论集中在"如何让模型更准确"，而近两年的讨论已经逐步走向"哪些场景不应该让AI独立承担后果"。
我支持这个转变。并不是所有的AI应用都需要根治幻觉，但凡是面向用户的"建议类"和"决策辅助类"场景，必须在系统设计上内置"防伤害机制"。这不只是一个技术问题，更是一个产品伦理问题。比如让AI写首诗、编个故事，幻觉反而是创作力的体现；但让AI输出法律意见、医疗建议、财务预测，幻觉就是法律风险。
5. 最后的个人体会：接受幻觉，还是对抗到底？
在AI领域这些年，我对幻觉的态度经历了三个阶段：最初的震惊、中间的努力对抗、到现在的"敬畏+防御"。
一个很扎心的事实是：当前所有主流大模型的底层架构都没有为"真实性"留出设计空间。它们的设计目标是生成合理的文本，而不是生成真实的事实。所以在我个人看来，追逐"让模型永不幻觉"是一个错误的命题，更务实的思路是——承认幻觉是AI的固有属性，然后用系统架构去约束它。
分享几个我这些年在实践里沉淀的具体操作建议：
- 凡是给客户看的生成内容，必须经过"事实核验层"。你可以用规则、外部API、数据库对比来实现，但绝不能只依赖模型自己的输出。
- 建立模型能力边界文档。明确记录哪些问题模型能答、哪些是弱项、哪些是禁区，每季度更新一次。这个文档能帮产品团队省掉很多重复踩坑的时间。
- 给用户的交互界面增加"不确定性提示"。比如"本回答基于公开资料整理，仅供参考"，这不是形式主义，而是法律上的风险缓释。
- 从模型层面降低幻觉代价。对于风险较高的应用，直接选择"保守型"模型或调低温度参数，宁可回答得短、含糊，也不要自信地长篇大论。
八年过去了，我眼看着技术一路奔跑，应用不断落地，但幻觉这个老伤口始终没有真正愈合。它还会在某个不经意的问答里冒出来，给你一刀。作为从业者，我们无法让血液停止流动，但至少可以穿好防护服、备好止血带，让每一滴血都流得明明白白。未来如果真有一种架构能从底层上重构"真实性与生成性的统一"，那将是一场更彻底的革命——在那之前，保持敬畏，保持防御，与幻觉共存，是眼下最诚实的生存法则。
