TOC专家谈 | 大模型范式下的知识检索增强实践

过去这几年，大模型展现出的语言理解和生成能力确实令人印象深刻，但问题也随之而来：模型内部固化的知识，在面对动态变化的现实信息时，难免显得力不从心。信息环境的快速更迭、专业领域的深度需求，以及对回答时效性和准确性的严苛要求，都在推动着一项关键技术——检索增强——走上前台。这项技术将外部知识库与模型的核心能力巧妙结合，成为提升智能交互效能的重要路径。下面，围绕通义大模型在检索增强方面的最新实践展开讨论。

通义大模型

通义系列大模型由阿里巴巴通义实验室研发，代表着阿里在AI领域的最新成果。这些模型在语言理解、生成、推理以及多模态处理上表现突出，意图实现接近人类水平的通用智能。目前已在阿里云、钉钉、天猫等内部产品中深度集成，覆盖了广泛的实际场景。

大模型知识检索增强（RAG）

大模型时代的检索增强，本质上是对传统检索策略的一次升级。虽然以GPT为代表的大模型凭借庞大的参数量学习了大量通用知识，但知识边界、时效性不足、缺乏特定领域知识等问题始终存在。检索增强的思路很简单：在模型推理时，实时从外部知识库——无论是文本库、知识图谱还是多模态信息——中抓取相关内容，辅助模型做出更准确的判断。说白了，就是给大模型配上一个可随时查阅的“外脑”。

但工业界的实际应用远没有听起来那么轻松。传统的RAG方法面临不少坎：首先，单一的Query文本表示方式难以精准捕捉复杂语义的关联，只能判断“相关与否”，做不到深入理解；其次，意图理解、Query改写、检索生成等环节高度依赖标注数据，而获取大规模线上Query标注数据成本极高，这直接限制了RAG的落地效率。

针对这些痛点，团队近期与浙江大学陈华钧老师团队合作，在RAG方向上做了两个具体工作：一是通过优化Query改写来提升开放域问答效果，二是利用检索增强提升大模型的NLU能力。下面分别展开。

基于排序反馈增强RAG方法

在RAG链路中，如果原始Query没能检索到可回答的文档，就需要对Query进行改写来扩充搜索范围。虽然大模型自己也能完成改写，但调用成本太高，小型改写模型在RAG链路中依然不可或缺。改进小型改写模型的主流思路是强化学习反馈，但过去反馈多依赖特定数据集的标注文档或答案，这在通义的开放域问答场景中很难获取，泛化能力也不足。

我们的方案是引入Reranker（排序模型）的反馈信号。Reranker本身就是对文档和原始Query之间的相关性做打分，然后重排检索结果。它的优势在于：不需要标注文档，可以借助开放域搜索引擎的检索结果来提供信号，而且这个信号与Query改写的目标高度一致。基于Reranker的反馈，改写训练框架同时支持在线实时训练（如PPO）和离线训练（如DPO、KTO），最终有效提升了开放域问答的效果。

基于语言模型随机点过程的上下文学习方法

除了问答，RAG还可以服务于更多任务，比如NLU。但通义RAG系统在NLU应用上同样受限于标注数据匮乏。获取大规模线上Query标注数据，既困难又昂贵。我们的思路是：用主动学习来降低标注成本——具体来说，提出了一种基于语言模型随机点过程的上下文学习标注选择机制，目的是优化大模型的少量样本学习能力，选择性标注最有价值的示例进行检索。

这个方法（简称LM-DPP）通过结合大模型的困惑度来评估每个候选实例的不确定性，并构建Gram矩阵来平衡不确定性和多样性。再通过多项式时间的最大后验推断，识别出最有用的实例子集进行标注。我们在12个分类和2个生成数据集上做了实验，验证了LM-DPP的有效性，也展示了它在不同大模型上的通用性。资源有限的情况下，这个方法为低资源场景下的NLU应用提供了新思路。

检索增强与AI智能体

目前，通义RAG技术已经深度融入了阿里巴巴集团的多款核心产品：通义千问、阿里云百炼、阿里云AI助理，还有钉钉。这些产品的信息检索、对话交互和定制化模型构建能力因此显著提升。

以通义千问为例，面对实时信息查询、新闻事件更新、市场动态追踪等需求，RAG能够从海量互联网资源中精准检索最相关、最新的数据，并据此生成回答。这让通义千问在应对瞬息万变的信息环境时，依然能保持高度时效性和可靠性。

在阿里云百炼平台上，RAG助力外部企业基于自身数据构建个性化大模型。企业上传独有的业务数据后，RAG系统将这些数据与云端预训练模型的能力整合，形成对企业特有知识的深度理解和精准建模。

至于阿里云AI助理——一个服务阿里云产品咨询的对话式智能助手——RAG的加入让它的专业性和响应效率进一步提升。用户通过自然对话提问时，AI助理不仅依赖内置知识库，还会实时抓取阿里云官方资料、公告、技术文档等权威信息，确保回复的准确性和全面性。用户可以获得如同与资深专家交流般的流畅体验。

总结与展望

在工业领域，RAG模块的复杂性以及链路的交错性，带来了不少挑战，比如检索库中的噪音问题、用户意图的精准识别，以及如何融合通用知识库、专业知识库、私有域知识库，并提供个性化智能体。这些都是亟待解决的任务。自动构建高质量的检索增强知识库，以及设计原生支持检索和规划的大模型架构，是关键的技术方向。

展望未来，我们期待通过引入规划知识库等技术，进一步提升大模型的检索、推理和规划能力；通过参数与符号相结合的弹性可编辑知识库，提升大模型的知识更新能力。可以预见的是，这条路将推动大模型和智能体朝着自主进化的方向持续迈进。

作者简介

黄非

黄非博士，阿里巴巴通义实验室自然语言处理方向负责人。他带领NLP团队研发通义自然语言大模型体系，在机器阅读理解、图文问答和中文理解等任务上首次超越人类结果。建设阿里巴巴NLP平台和产品，在集团内支持数百个场景日均数万亿次调用，对外以智能技术赋能软件开发、角色对话、办公效率、司法、电商等行业合作伙伴。他是国内最大协同办公平台钉钉的智能技术以及AI开源魔搭社区NLP模型的主要提供者。在人工智能顶级会议和期刊发表论文150余篇，拥有国际专利50余项，曾担任ACL、TACL等学术会议领域主席和期刊编辑。