RAT，突破AI幻觉的新方法

近年来，自然语言处理（NLP）与大型语言模型（LLM）领域的发展速度，大家有目共睹。不断有新技术涌现，试图让这些模型变得更聪明、更可靠。不过，一个老问题始终挥之不去——幻觉。它不仅拉低了模型的可信度，甚至在某些场景下可能直接导致输出结果不可用。那该如何应对？之前我们聊过一些通过RAG来缓解幻觉的思路。今天，再来看看另一种有趣的方法——RAT。

01. 为什么会有RAT

在生成式AI的实际应用中，效率和准确性之间天然存在一种张力。开发者往往需要在两者之间做出权衡：想让结果更准，往往就得牺牲一点响应速度；想追求极致效率，准确性又可能打折扣。那么，有没有办法找到那个“刚刚好”的平衡点？RAT，正是针对这一痛点提出的一种解题思路。

02. 什么是RAT

RAT，全称是检索增强型思考。它并不是什么全新的底层技术，而是一种巧妙的提示策略——将思维链（Chain-of-Thought，CoT）与检索增强生成（Retrieval-Augmented Generation，RAG）结合起来，专门用来解决那些需要长视野（Long-Horizon）推理和生成的任务。 关于RAG，相信大家已经不陌生了，它的核心思想是通过外部知识库来辅助生成。而CoT提示，则是引导模型把复杂问题拆解成一步步的中间推理过程，像一个“思考路径”那样展开。这种逐步推理的方式，能有效降低模型给出看似合理、实则逻辑不连贯答案的可能。 RAT可以把这两者无缝衔接：它将思考过程本身“当作”查询——每生成一个中间步骤，就用这个步骤去检索外部信息，然后反过来修正当前的思考。这样迭代进行，直到最终输出结果。值得一提的是，RAT是一种零样本提示方法，也就是说，不需要事先准备大量示例，它就能在具有挑战性的任务上发挥作用，比如代码生成、数学推理、任务规划以及创意写作等领域。 RAT的运作流程大致可以拆解为两步： **第一步**：让大模型先基于零样本生成一个初始的CoT思维链。然后，把原始的提示任务和这个思维链一起，作为查询去检索外部信息。每一条中间思考或推理步骤，都会和任务提示一起，从外部知识源中捞取相关上下文。模型再根据这些检索到的信息，对当前的CoT步骤进行修订或细化。这一步的关键在于：允许模型把外部知识“内化”到推理过程中，从而修正那些可能已经跑偏的思考步骤。 **第二步**：使用修订后的CoT步骤，结合检索来的上下文，生成最终的响应或解决方案。这样的输出，既有模型本身的推理能力打底，又有外部知识的加持，在事实准确性上自然更有保障。 必须强调的是，RAT是一个渐进式的过程，而不是一次性完成的。模型会根据CoT中分解出的子任务，一步一步地生成响应。每次只针对当前的思考步骤进行检索和修正，这其实非常接近人类解决复杂问题时的思维习惯——边想边查，边查边改。

03. RAT在Long-Horizon推理和生成中的使用

Long-Horizon推理，处理的是那种需要模拟和预测较长时期内各种可能后果的复杂任务。它天然带有不确定性，需要模型能够动态调整、适应变化，并且不断把反馈纳入到后续的推理中。 来看一个具体的示意图，能更直观地理解RAT在这类场景中的工作机制。 _{图源：https://arxiv.org/pdf/2403.05313.pdf} 如上图所示，给定一个任务提示，RAT的起点仍然是模型在零样本情况下生成的一系列初始思考步骤。但差异在于，其中有些步骤可能带有幻觉，存在缺陷。RAT的做法是：不是等所有步骤都生成完毕再来一次性的“事后修正”，而是针对每一个有问题的步骤，都通过RAG去外部知识库“补一补课”，进行迭代式的微调。 下面是一个更具体的示例，对比了几种不同LLM推理方法在创造性生成任务中的表现。 这张图很直观：红色部分是模型的幻觉，绿色部分是正确输出。来看对比结果： - 没有RAG的传统方法，生成内容中频繁出现错误信息。 - 单纯依赖RAG的方法，虽然准确性与检索内容强相关，但整体结构偏松散，行文缺乏连贯性。 - 而RAT生成的文本，则在准确性和完整性上都表现出了最优效果。 在多个复杂的任务场景下——包括体化规划、数学推理、代码生成和创意写作——定量评测结果也一致表明，**RAT在所有任务上都超越了现有的基线方法**。

小结

当然，RAT目前还谈不上完美。检索机制的设计、外部知识源的选取，仍然是需要研究和摸索的地方。但不可否认的是，作为RAG与CoT的一种深度融合，它在减轻幻觉、提升语言模型输出正确性方面，展现出了很强的潜力。随着研究不断深入和技术日趋成熟，RAT完全有可能成为推动生成式AI向前迈出一大步的关键力量，尤其是在那些对准确性和效率都有高要求的应用场景中。