AGI专业领域挑战科普，RAFT（检索增强微调）改进这一切

很多人有个疑问：既然有了ChatGPT、Kimi这样的大模型，为什么还要在专业领域里大费周章？不都是处理知识、生成图文吗？可实际用起来，偶尔会发现它答非所问，甚至胡编乱造——这就是常说的“幻觉”问题。

随着大模型的应用触角伸向专业领域，如何高效、准确地让模型适应特定场景，变得越来越关键。RAFT（检索增强微调）就是一种为此量身定制的新颖方法，它巧妙地把检索增强生成（RAG）和微调的优势结合在一起，专门解决特定领域的问答难题。

专业领域的挑战

大模型虽然接受了海量数据的预训练，但真要它们在医学研究、法律文档或者企业内部知识库这类专业领域里表现出色，往往力不从心。原因很简单：预训练数据未必能充分覆盖这些领域的细微差别和复杂逻辑。面对这个难题，研究者们传统上主要依赖两条技术路径：检索增强生成（RAG）和微调（Fine-tuning）。

什么是RAG？

检索增强生成，本质上是一种让大模型在“答题”时能实时翻书查资料的技术。它融合了检索和生成两种方法的优点，让模型不再只凭“记忆”作答。

RAG的核心流程可以拆解为三步：首先是“检索”，根据用户问题，从外部知识库中找出相关文档；然后是“生成”，模型基于这些检索到的资料，整合成通顺的回答；最后是“增强”，对生成的答案进行优化，让它更连贯、更贴切。

通俗点说，RAG的检索阶段，就像从企业自己的数据库里翻箱倒柜找资料。这个数据库里存放的是企业日常积累的文档和资料，经过整理和备份。通过分析问题，系统找到对应的数据映射，提取出关键信息。到了生成阶段，模型把这些零散信息串成一个完整的故事或答案。最后的增强环节，则像是给答案添加上下文，调整逻辑，让它更完善。

• 预训练语言模型集成：
  RAG的起点是一个预训练语言模型（比如BERT或GPT），它充当生成的“骨架”。这个模型已经对语言模式和语义有了深刻理解，为后续任务打下了坚实基础。

• 知识检索机制：
  RAG的显著特征就是带了一个“资料检索员”，让模型在生成时能访问外部信息。这个检索员可以是用密集检索方法，也可以是传统搜索算法，从庞大的资料库里找到相关知识。

• 生成主干：
  预训练语言模型就是RAG的“大脑”，负责根据输入和检索到的知识，生成连贯且符合上下文的文本。

• 上下文理解：
  得益于集成了预训练模型，RAG对上下文的理解很出色，能把握输入文本中的细微差别和逻辑关系。

• 联合训练：
  RAG在训练时会同步优化模型的生成能力和检索机制的有效性。这种“两手抓”的方式，确保模型既能产出高质量输出，又能恰到好处地利用外部信息。

• 自适应知识集成：
  RAG在知识集成上很灵活，能适应不同领域和任务。模型会根据输入问题的性质和任务要求，动态调整自己对外部知识的依赖程度。

• 高效的训练和推理：
  尽管引入了检索组件，但RAG在设计上仍然努力保证训练和推理的计算效率，以应对可扩展性和实时应用带来的挑战。

• 增强上下文理解：
  RAG擅长理解上下文，因为它生成时集成了外部知识。

• 多样化且相关的输出：
  检索机制让模型能产出多样且贴合上下文的答案，应用范围很广。

• 知识集成的灵活性：
  RAG可以灵活选择知识源，能很好地适应不同领域，尤其适合处理特定领域和企业内部的问题。

• 计算强度高：
  检索机制可能很耗计算资源，影响实时应用和可扩展性。模型可能变得非常庞大，算力不足时很难集成到实时系统里。

• 对外部知识的依赖：
  RAG的效果好坏，取决于外部知识的质量和相关性，这可能会引入偏差或不准确的信息。

RAG的好处是能利用私有数据，特别适合企业内部或对隐私要求高的场景，前提是数据源能实时更新。但回到医学、法学、数学、教育等特定领域，如果RAG没有足够的新数据去支撑，效果还是会打折扣。

什么是微调（Fine-tuning）？

微调，就是在专门的小数据集上，对预训练的大模型进行“二次培训”，让它适应特定的任务或领域。通过这种方式，模型能学到特定模式，让自己的输出更贴合目标需求。微调能提升模型的表现，但它通常不擅长整合外部知识源，也无法自行识别检索过程中的缺陷。

RAG和微调都是增强NLP模型的好方法，但选哪个，完全取决于要解决什么类型的问题。记住，两者都以预训练模型为起点。RAG不容易出现过拟合（模型死记硬背），但可能生成有偏差的输出。微调则不会产生有偏差的数据，但如果当初选的预训练模型本身就不对路，微调也就无从谈起。最终，选RAG还是微调，得看具体的任务和要求。

RAFT又是什么？

RAFT和RAG可不是一回事，它不是RAG的改进版。RAFT更侧重于图结构建模和特征提取，而RAG更注重利用检索到的外部信息来辅助生成。

RAFT的全称是“检索感知微调”，是一种为语言模型量身定制的创新训练方法，目标是提升模型在特定领域任务上的表现——打个比方，就像是让模型学会“开卷考试”。

和标准的微调不同，RAFT准备的训练数据里，既有相关文档，也有不相关的干扰文档，问题后面还跟着一个包含思维链的答案。这种方法训练模型，不只是让它回忆信息，更重要的是学会从给定的材料中进行推理和得出结论。

本质上，RAFT是对语言模型进行微调，让它更擅长“阅读理解”和“从一堆文档里提取知识”这类任务。通过训练模型在“包含答案”和“不包含答案”两种情况下都能作答，模型学会了更有效地辨别和利用相关信息。

RAFT的训练过程很有特点：一部分训练数据里包含与答案直接相关的预言文档，而其余数据里只有干扰文档。这种微调方式鼓励模型学会判断——什么时候该依赖自己的“记忆”（类似凭自己的知识回答），什么时候该从提供的资料里提取信息。

RAFT的训练方案还特别强调生成推理过程。模型不仅在最后给出答案，还要引用来源，就像人类在回答问题时会引用自己看过的材料一样。这种方法，一方面是为RAG场景做准备——因为RAG需要模型处理K个检索回来的文档或引用；另一方面，它也确保模型的训练不依赖于某个特定的检索器，从而可以灵活地应用在不同的检索系统中。

这种方法有三个显而易见的优点：

• 它训练模型在给定的信息里找到并利用相关内容，模拟了开卷考试的场景。
• 它增强了模型忽略无关信息的能力——这可是有效RAG的关键技能。
• 它让模型暴露在“信息里没有答案”的场景中，鼓励模型在必要时凭自己的知识作答。

RAFT的另一个关键点，是把“思维链推理”融入了训练过程。它不简单给个“问题-答案”，而是生成详细的推理解释，甚至包含从相关文档中逐字引用的内容。这些解释以“思维链”的形式呈现，引导模型一步步得出正确答案。通过在这种推理链上训练模型，RAFT不仅锻炼了强大的推理能力，也加深了模型对“如何有效利用外部知识”的理解。

举个例子，大模型的知识可能截止到2024年以前。如果2024年中发生了某个事件，比如某次地震，初期报道财产损失是5亿，但到了2027年最终统计时，费用超过了6亿。大模型如果只是停留在旧知识里，就会给出错误答案。而通过RAFT，模型可以结合最新的检索信息，覆盖并更新原有的认知，给出更准确的回答。

评估与结果

RAFT论文的作者在多个数据集上进行了广泛的评估，包括PubMed（生物医学研究）、HotpotQA（开放域问答）和Gorilla APIBench（代码生成）。结果表明，RAFT的表现始终优于其他基线方法，比如“使用RAG的特定领域微调”以及“使用RAG的GPT-3.5”等更大的模型。

数据很能说明问题：在HuggingFace数据集上，RAFT的准确率达到了74%，比“特定领域微调（DSF）”显著提升了31.41%，比“使用RAG的GPT-3.5”更是高出44.92%。同样，在HotpotQA数据集上，RAFT的准确率也比DSF提高了28.9%。

实际应用和未来方向

RAFT技术的应用前景很广，包括但不限于：

• 问答系统：
  构建高度准确、特定领域的问答系统，既能利用模型已有的知识，也能调用外部知识源。

• 企业知识管理：
  拥有庞大知识库的组织，可以用RAFT开发定制化的问答系统，让员工快速获取和利用相关信息。

• 医学和科学研究：
  在生物医学研究这类前沿领域，获取最新发现和文献至关重要，RAFT能派上大用场。

• 法律和金融服务：
  根据相关法律文件或财务报告，提供准确且符合上下文的回应，为专业人士提供强大支持。

随着研究的深入，未来RAFT可能向以下几个方向发展：

• 探索更高效、更针对特定领域或文档结构的检索模块。
• 把图像或表格等多模态信息整合进RAFT框架，增强上下文理解。
• 开发专门的推理架构，更好地利用训练时生成的思维链解释。
• 将RAFT应用到问答之外的其他自然语言任务，比如摘要、翻译或对话系统。

结论

总的来说，RAFT代表了语言模型在特定领域问答任务上的一次重大飞跃。它把检索增强生成和微调的优势进行了和谐融合，让大模型既能有效利用外部知识源，又能让输出贴合特定领域的模式和偏好。通过创新的训练数据管理、融入思维链推理，以及对检索缺陷的稳健处理，RAFT为那些希望释放大模型在专业领域潜力的组织和研究者，提供了一套强大的解决方案。可以说，它让我们离构建真正权威、通用的智能系统，又近了一大步。