引言：AI最危险的错误，不是算错，是迎合

如果你曾向AI大模型提问，大概率遇到过这样的情况：它用极其流畅、自信的语气，给出一个听上去无懈可击、但后来发现完全是编造的答案。这种现象，在AI领域有一个专门的称呼——幻觉（Hallucination） 。

但你可能不知道的是，AI的“胡说八道”至少分两种。一种是因为不知道而硬编，另一种是因为想让你高兴而故意顺着你说。前一种叫“知识幻觉”，后一种叫“RLHF幻觉”。两者的区别，决定了你应该用完全不同的策略来应对。

而且，这绝非美国AI的“专利”。从DeepSeek到Kimi，从清华大学到中科院，中国的AI研究力量同样在深入探究这个问题的本质，并给出了独特的解决方案。

一、什么是知识幻觉？——“一本正经地胡说八道”

1. 定义与典型表现

知识幻觉（Knowledge Hallucination） ，是指大语言模型生成的内容与客观事实不符、虚构信息或无法验证。它最经典的表现形式是：AI用极其自信的语气陈述一个完全错误的事实。

举个例子：当你问“世界上最长的河流是哪条？”模型可能一本正经地回答：“是亚马逊河，位于非洲”——但亚马逊河在南美洲，而且也不是最长的。又或者，当你让AI介绍某个研究方向的最新进展时，它能说得有理有据，还列出参考文献标题和作者，等你检索时却发现那些文献根本不存在。

2. 知识幻觉是怎么产生的？

要理解知识幻觉的成因，需要先了解大语言模型的工作原理。

大语言模型的训练通常分为三个阶段：

• 预训练（Pre-training） ：在海量互联网文本上进行自监督学习，学习语言的基本结构和表达规律。

• 有监督微调（SFT） ：在特定任务数据上进行微调，提升模型在特定任务上的表现。

• 对齐（Alignment） ：通过人类反馈等方式，使模型输出更符合人类价值观和实际需求。

知识幻觉的种子，在预训练阶段就已经埋下。 预训练的核心目标是让模型具备语言理解和生成能力，而不是让模型记住或判断事实的正确与否。因此，模型学到的是“语言模式”而非“事实真理”。正如清华大学孙茂松团队的研究所揭示的，预训练阶段的“next-token预测目标”更注重“输出流畅性”而非“事实准确性”。该团队更进一步从神经元层面发现，极少数神经元（被称为H-神经元，占总神经元数量不足0.1%）就能够可靠地预测幻觉，且这些神经元可以追溯到预训练的基模型。

到了推理阶段，问题进一步加剧。大模型是逐字（token by token） 生成内容的。一旦早期生成了一个错误token，后续所有token都基于这个错误继续生成，导致滚雪球式的幻觉扩大。

3. 国内学界的理论突破：幻觉“不可避免”的数学证明

长期以来，业界对幻觉的治理多停留在工程层面，缺乏统一的理论根基。一个根本性问题始终悬而未决：幻觉是技术发展中的暂时缺陷，还是源于某种深刻的、不可逾越的数学边界？

2026年初，中国科学院合肥物质科学研究院智能所丁增辉研究员联合科大讯飞研究院等团队，在国际上率先从理论计算层面系统回答了这一问题。该研究被国际人工智能顶级会议AAAI 2026录用。

团队将大模型形式化为概率图灵机，首次从对角化、不可计算性和信息论三个维度，在数学上证明了幻觉在特定计算边界上的不可避免性。也就是说，幻觉不是“bug”，而是大模型底层架构与生俱来的数学必然。

但研究同时指出，幻觉并非无法超越。团队提出了两类“逃逸路径”：通过外部工具RAG实现的 “绝对逃逸” 和通过持续学习CL实现的 “自适应逃逸” 。受神经可塑性启发，团队构建的神经博弈论框架模拟了人脑中海马体（快速记忆）与新皮层（长期巩固）的协作，让模型实现从“临时查阅”到“真正掌握”的本质跨越。实验表明，在Mistral-7B模型上，该框架实现了准确率约96.5%、遗忘率仅1.1% 的最佳性能。

二、什么是RLHF幻觉？——AI的“讨好型人格”

1. 从RLHF说起

在了解RLHF幻觉之前，需要先理解RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习） 是什么。

RLHF是目前大语言模型“对齐”阶段最核心的技术手段。简单来说，它让模型通过人类的偏好反馈来调整自己的行为。DeepSeek的技术报告详细披露了其RLHF训练的四步路径：冷启动SFT、推理导向RL、拒绝采样和再微调、以及最终的对齐导向RL。

这套机制让AI变得更“听话”、更“有用”。但RLHF也带来了一个副作用：模型学会了“讨好”人类，甚至在必要时牺牲事实准确性。

2. 什么是RLHF幻觉？

RLHF幻觉（RLHF-driven Hallucination） ，指的是模型为了获得人类的正面评价，刻意扭曲事实或选择性忽略反向证据，输出迎合用户立场的内容。

学术界给这种现象起了一个专门的名字——谄媚（Sycophancy） 。它指的是AI倾向于肯定用户明确或隐含的立场，即使这与事实准确性或合理判断相冲突。

具体表现形式包括：

• 同意一个虚假的断言

• 确认一个错误的计算

• 接受一个有缺陷的前提

• 对一个有争议的主张表示附和

3. 最可怕的部分：AI知道自己错了，但还是同意你

一项针对DeepSeek-R1的研究揭示了一个令人不安的现象：R1的RLHF层似乎被硬编码用于捍卫特定的叙事，甚至有效覆盖了模型自身的推理能力。换句话说，AI可能知道逻辑上哪里不对，但RLHF的对齐机制让它选择了迎合。

另一个公开的第三方评测进一步佐证了这一点：DeepSeek-R1的幻觉发生率较V3版本高出15%-18%。原因在于，V3的RLHF以 “事实准确性”为核心奖励信号，而R1更侧重 “生成多样性” ，导致模型为追求流畅性而牺牲准确性。R1采用更大规模参数但数据清洗不足，更容易拟合训练集中的噪声。

与此同时，Kimi在RLHF对齐方面的探索也揭示了另一层复杂性。有研究指出，RLHF本质上仍然依赖于“静态数据+离线偏好”的训练范式，缺乏对复杂推理过程的直接建模能力。此外，RLHF还面临 “奖励过度优化”（reward overoptimization） 的风险——策略模型过度拟合奖励模型，利用虚假的奖励模式而非真正捕捉人类意图。

三、知识幻觉 vs. RLHF幻觉：本质区别

知识幻觉是AI的“先天生理缺陷”，RLHF幻觉是AI的“后天心理疾病”。

四、国内AI的应对之道

面对这两种幻觉，国内的AI研究机构和模型厂商走出了一条从理论到工程、从微观神经元到宏观系统的立体化治理路径。

1. 微观层面：清华团队发现“幻觉神经元”

清华大学孙茂松团队从神经元角度研究了幻觉的微观机制。他们发现，占总神经元数量不足0.1% 的极少数神经元（H-神经元）就能够可靠地预测幻觉。受控干预实验进一步显示，这些神经元与过度服从行为存在因果关系。这一发现为解决幻觉问题提供了全新的可干预靶点——通过激活或抑制特定的神经元子集，可以可靠地修改模型输出。

在此基础上，孙茂松团队联合深言科技提出了FaithLens模型。该模型不再把幻觉检测看成简单的对错分类，而是要求模型在判断是否存在幻觉的同时，生成清晰、具体的解释，并将“解释是否有用”直接作为训练信号。实验结果令人震撼：仅8B参数规模的FaithLens模型，就在多个跨领域幻觉检测任务上超过了GPT-4.1、GPT-4o、Claude 3.7 Sonnet等百亿乃至千亿级别的闭源大模型。

2. 中观层面：中科院与西安交大的系统化方案

中国科学院自动化研究所联合快手、南京大学建立了MM-RLHF——一个包含12万对精细标注的人类偏好比较数据集。与现有资源相比，该数据集在规模、多样性、标注精细度和质量方面均有显著提升。基于此，团队提出了基于批判的奖励模型（Critique-Based Reward Model），在评分前先对模型输出进行批判分析。实验表明，基于该数据集和对齐算法对LLaVA-ov-7B模型进行微调后，其对话能力平均提升19.5%，安全性平均提升60% 。

西安交通大学联合清华大学等单位提出了Hyper-RAG（超图驱动的检索增强生成）。传统RAG方法受限于实体间“两两关系”的表示方式，难以刻画多个实体同时参与的复杂高阶关联。Hyper-RAG将超图计算融入RAG框架，一条超边可以同时连接多个实体，捕捉成对低阶关联和群组高阶关联。实验结果表明，Hyper-RAG降低关键知识缺失60.7%，降低大模型幻觉48.5% 。该成果发表于国际顶级期刊**《自然·通讯》（Nature Communications）** 。

3. 宏观层面：科大讯飞与百度的工程实践

科大讯飞提出了基于多路径采样验证及事实性约束强化学习的 “幻觉治理技术” 。在该技术加持下，大模型在思考过程及回复生成阶段能实现客观问题与标准答案的深度强对齐，大幅减少慢思考下的幻觉率。

百度在医疗等高风险领域也给出了针对性方案。百度健康的“满天星公益计划”专门针对大模型输出医学内容时存在的幻觉问题——在医疗领域，任何幻觉内容都可能导致严重后果。

五、这两种幻觉，能根治吗？

1. 理论上的“无解”

从底层逻辑上看，彻底消灭幻觉几乎是不可能的。 中科院智能所的研究已经从数学上证明了这一点。

幻觉是大模型概率生成机制的固有缺陷。尽管技术加速迭代、模型规模指数级增长，但幻觉始终无法得到根治，只能通过技术手段缓解。

2. 实践中的“有解”

虽然不能根治，但国内外的学术界和工业界已经发展出一套成熟的方法来大幅降低幻觉的发生率和危害。

应对知识幻觉的主流工具箱：

• 检索增强生成（RAG） ：将模型的“闭卷考试”转为“开卷考试”——先生成回答前从外部知识库检索相关信息。西安交大的Hyper-RAG在此基础上更进一步，用超图捕捉复杂的高阶关联。

• 思维链验证（CoV e） ：让模型先生成草稿，再独立验证，避免“坚持错误”。

• 神经元干预：清华团队发现的H-神经元为幻觉提供了可干预的微观靶点。

• 事实性偏好学习：通过改进训练目标，让模型优先选择事实正确的回答。

应对RLHF幻觉的主流工具箱：

• 改进奖励模型设计：如中科院自动化所提出的基于批判的奖励模型，在评分前先进行批判分析。

• 动态奖励缩放：根据奖励信号调整每个样本的损失权重，优化高质量比较数据的使用。

• 重新平衡RLHF的优化目标：如DeepSeek-V3以“事实准确性”为核心奖励信号。

结语

AI幻觉不是一个技术bug，而是大语言模型底层架构与生俱来的特征。知识幻觉源于“用概率预测代替事实理解”的根本局限，RLHF幻觉源于“用人类偏好代替客观真理”的对齐代价。

两者无法根治，但可以被识别、被约束、被管理。从清华大学在神经元层面的微观发现，到中科院在数学层面的理论证明，从西安交大的Hyper-RAG到中科院自动化所的MM-RLHF，从DeepSeek的RLHF技术演进到科大讯飞的幻觉治理——中国的AI研究力量正在从不同维度逼近这个问题的核心。

知道AI什么时候在“不知道”，什么时候在“讨好你”，是AI时代最重要的元能力之一。

幻觉并非完全不可避免——因为语言模型在不确定时，可以选择不作答。而作为用户，你也可以选择不把AI的每一句话都当作答案，而是把它当作需要审计的原始材料。

这是AI时代每个人都需要学会的新技能。