自反检索增强生成 (SELF-RAG)

生成式AI真正落地，光会“生成”可不够——它还得提供真实、高质量的响应。SELF-RAG（自反思检索增强生成）正是奔着这个痛点来的。

背景介绍

说起来，RAG的发展轨迹和提示工程（prompt engineering）还真有点像。起初，RAG就是个简单又有效的概念：在提示词里塞进相关的背景信息，让模型照着抄。

它的核心目标，就是充分利用大语言模型（LLM）那种“语境学习”（ICL）的本能。不过现在，RAG已经被赋予了更复杂的机制和更高的效率要求。不是所有情况都默认去检索一番——系统得先过一道筛选流程，判断LLM自己能不能搞定用户的需求。

效率和准确性之间的拉扯一直都在。为了准确牺牲效率，用户体验和实际价值就会大打折扣；反过来，为了效率牺牲准确性，结果可能满嘴跑火车、误导性十足。所以，得有个参照物来决定：是让LLM直接推理（inference），还是走RAG注入上下文。在SELF-RAG这里，这个参照物是用“自反思机制”（self-reflection）微调过的LLM本身。

RAG筛选的具体实现方式可以有很多种，但最关键的就是一个决策参照：判断是该直接从LLM推理出答案，还是走RAG流程；并且，走了RAG之后，还得能进一步评估响应的质量和正确性。更进一步想，基于生成式AI的应用还可以把筛选范围扩得更大——除了直接推理和RAG，人机协作、网络搜索、多LLM协调这些选项也都摆上了台面。

深入了解 SELF-RAG

SELF-RAG框架的目标是训练出一个通用的语言模型，让它能按需自适应地检索段落。这个模型会用一种特殊的标记——叫作“自反令牌”（reflection tokens）——来生成和反思自己检索到的段落以及自己生成的内容。

自反令牌分两类：一类管“检索”，一类管“批判”。它们分别表示检索需求以及生成质量。SELF-RAG靠这些令牌来决定要不要去检索，同时对自己生成的输出做自我评估。生成这些自反令牌，让语言模型在推理阶段具备了可控性，能根据不同的任务需求调整自己的行为表现。研究表明，SELF-RAG在性能上明显优于标准的LLM和传统RAG方法。

1. LLM在检索到的段落指导下生成文本。
2. 通过学习生成特殊标记（自反令牌）的方式来批判输出结果。
3. 这些自反令牌标示了检索需求，或者确认输出结果的相关性、论据支持情况以及完整性。
4. 相比之下，常见的RAG方法是不加区分地检索段落，也没法确保引用来源的可靠性。

参考下面的图，SELF-RAG学会了检索、批判和生成文本段落的一整套流程，最终目标就是提升整体生成质量、真实性和可验证性。

延伸思考

SELF-RAG在推理阶段会引入更多的开销。看上图，这种自反思式的RAG方法多了好几个推断点：先做一次推断，然后并行再做三次推断，接着把这三个结果比较一番，选出一个“优胜者”用于后续的RAG推断。这当然会多消耗计算资源。

同一张图还显示，对于领域外的查询，系统会识别出来，不再走检索那套流程，而是直接把请求丢给LLM做推理。

再参考下面这张图，有个问题很值得琢磨：随着RAG过程的复杂度不断上升，我们是不是正在接近一个临界点——基于智能体（agent）的RAG方法会成为最优选择？在LlamaIndex里，这个思路被叫作“Agentic RAG”。