大模型面经——关于大模型幻觉问题的深化理解

接着聊大模型幻觉的话题。之前我们已经提过一些基础概念和缓解方案，这次咱们把焦距拉近，具体聊聊：怎么量化幻觉、有哪些实用的缓解手段、哪些场景最容易翻车——最后再抛一个开放性问题：幻觉一定都是坏的吗？

这篇文章会围绕下面几个板块展开，方便你按需翻阅：

1. 幻觉问题如何量化
2. 如何缓解幻觉问题
3. 大模型在哪些问题上最容易出现幻觉
4. 幻觉一定有害吗？

一、幻觉问题如何量化

1. 应用于垂直领域时

如果你要把大模型用到医疗、金融这类垂直领域，事情就变得具体了。因为行业里往往有现成的知识图谱或知识库，里面装着经典的命名实体和关系三元组。举个例子，医疗领域大模型被问到“糖尿病治疗有哪些药物”，背后可能涉及的实体和关系是这样的：

• 实体：症状——糖尿病、症状——高血压、药物——胰岛素
• <头实体, 关系, 尾实体>三元组：<糖尿病, 推荐药物, 胰岛素>、<糖尿病, 关联症状, 高血压>

有了这些参考，就可以对模型输出做量化评估。两种比较实用的方法：

命名实体是“事实描述”的关键载体。直接计算生成文本中间出现的实体词是否在知识图谱里就行。比如模型输出“糖尿病推荐的药物是健胃消食片”，这个实体“健胃消食片”根本不在知识图谱里——那基本就能判定为幻觉（或者说事实错误）。

用信息提取模型把大模型生成的句子拆成关系元组<头实体, 关系, 尾实体>，然后和知识图谱里的标准元组做比对。如果匹配不上，就是幻觉。

2. 应用于文档生成时

这类场景依赖你提供的参考材料。理论上参考材料质量越高、越详尽，量化结果就越可信。两种主流方法：

计算生成输出中，有多少句子能被参考文本“蕴含”（即逻辑上支持）。用成熟的NLI（自然语言推理）模型就能实现。公式就是：被参考文本蕴含的句子数 / 生成的总句子数。

思路很巧妙：如果生成内容和参考材料在事实上一致，那么对同一个问题，两者给出的答案应该相似。具体流程是这样：

先训练一个“问题-答案对生成模型”，输入参考材料，输出一批<问题, 答案>对。然后：

• 把你原本要问大模型的prompt（比如“已知糖尿病一般使用胰岛素降血糖，请问是否还有其它药物适用于糖尿病？”）输入这个模型，得到一组标准问答案对（比如“问题：糖尿病一般用什么降血糖？答案：胰岛素”）。
• 再把同样的prompt输入大模型，让它生成回答。
• 最后计算大模型生成的答案与标准答案之间的相似度——相似度越低，幻觉嫌疑越大。

这个方法绕过了直接比较的困难，用“二次问答”的方式做交叉验证。

二、如何缓解幻觉问题

理论上，唯一治本的办法是创建高质量、无噪声的数据集。但清洗和验证海量数据、保证多源数据一致性，难度实在太大。所以大部分论文和工业落地都在探索“治标不治本”的务实方案。下面几个是实用性比较高的：

1. 主动检测 + 外部知识验证

参考论文：A Stitch in Time Sa ves Nine: Detecting and Mitigating Hallucinations of LLMs by Validating Low-Confidence Generation

• 幻觉是会传播的。一句话出现幻觉，后面生成的内容很可能跟着错，甚至越错越离谱。所以如果能尽早“掐断”幻觉，就能阻止它在后续句子中蔓延。
• 模型输出层的logit值（概率分布）能给出早期信号。当模型对某个词的不确定性很高时（概率得分低），后续产生幻觉的可能性就大。这个低分区域就是我们要重点盯防的地方。

• 检测阶段：先找出每个生成句子中重要的概念词（潜在幻觉候选者），然后利用logit输出值计算模型对这些概念的不确定性，同时检索外部知识。
• 减轻阶段：用检索到的知识作为证据，修复有幻觉嫌疑的句子。把修复后的句子追加到已有输入里，再继续生成下一个句子。这样既修复了眼前的幻觉，也阻止了传染。

2. 修改解码策略

参考论文：Factuality Enhanced Language Models for Open-Ended Text Generation

采样的随机性对句子后半部分的影响要远大于前半部分。因为句子开头没有前文，模型只要生成语法和上下文正确的内容就行，自由度很大。但随着句子展开，前提变得越来越确定，候选词越来越少，模型反而更容易编造出不符合事实的东西。

引入“事实核心采样”算法，在生成每个句子时动态调整top-p采样的核心概率p。具体公式：

生成第t个token时，核心概率p_t = min(p_reset, p₀ × λ^t + ω)

• λ是衰减因子，随着t增大，p逐渐变小（更聚焦于高概率词）；
• ω是下界，防止p衰减到太小；
• p_reset：当一个句子生成完毕，p重新恢复初始值，给下一个句子开头的自由度留出空间。

3. 多次采样 + 一致性检查

参考论文：SELFCHECKGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models

如果模型真的“知道”某个事实，那么换几个不同的随机种子（比如调高温度参数）多次采样，生成的结果应该大同小异，事实一致。反过来，如果模型在胡扯，每次采样的结果就会发散甚至互相矛盾。

对同一个输入，采样多个response（比如温度设0.7、0.9、1.2各跑一次），然后测量这些response之间的信息一致性。一致性可以用多种方式计算：语义等价（如BERTScore）、基于信息抽取/问答的方法等。高一致性的声明更可能是事实，低一致性的就要打上“幻觉嫌疑”标签。

三、大模型在哪些问题上最容易出现幻觉

根据实践经验，下面几类场景是幻觉的“高发区”：

1. 数值混淆
   ：只要文本里涉及日期、金额、比例等数字，模型就很容易张冠李戴或者凭空捏造。

2. 处理长文本
   ：文档摘要、长对话历史这类需要捕捉长期依赖关系的任务，模型经常前后矛盾——前一句说过的事，后一句就忘了。

3. 逻辑推断障碍
   ：模型如果误读了源文本中的隐含逻辑，很可能会推出一个离谱的结论。逻辑推理能力越弱，幻觉风险越高。

4. 上下文与内置知识的冲突
   ：预训练阶段学到的“常识”有时候会干扰模型对具体上下文的判断。比如用户给的上下文和模型记忆中的知识不一致时，模型往往更信任自己的记忆，导致输出脱离现实。

5. 错误的上下文信息
   ：如果用户问的问题本身就有错（比如“为什么高尔夫球比篮球大？”或者“氦的原子序数为什么是1？”），模型通常不会识别出提问的荒谬之处，而是顺着错误前提往下编答案。

四、幻觉一定有害吗？

这个问题值得琢磨。对幻觉的容忍度完全取决于应用场景。写代码、做金融报表这类场景，幻觉就是灾难；但换到需要创造力的地方，比如写电影剧情、编段子、脑暴创意，幻觉恰恰能带来意想不到的“灵感火花”。生成一个充满想象力的故事，靠的就是模型敢跳出事实框架。

当然，除了创作，可能还有其他场景能让“无害幻觉”发光发热——这就要靠大家一起开脑洞了。你觉得还有哪些地方，幻觉不但不讨厌，反而挺讨喜？