从传统RAG到GraphRAG - 当大模型遇见知识图谱

从传统RAG到GraphRAG的转变，本质上是给大语言模型装上了一张“知识图谱”导航地图。它让模型在面对复杂查询时，能给出更细致、更准确的回答。当然，GraphRAG的效果也并非万能，它高度依赖底层知识图谱的质量、广度以及RAG工程层面的精雕细琢。

- GraphRAG利用知识图谱提供更丰富的上下文，从而提升LLM的响应质量。
- 它克服了传统RAG在理解复杂查询时的局限。
- 更高效的检索与索引策略，能显著提升RAG系统的准确率和速度。
- 未来，动态更新、计算效率提升和跨领域知识传递将成为关键趋势。
- GraphRAG的影响将辐射到NLP、AI伦理以及整个AI创新生态。
- 知识图谱为LLM提供了结构化的、上下文相关的高质量数据。
- GraphRAG的成败，最终取决于知识图谱的质量与广度，以及工程实现的精细度。

引言：大模型的“知识截断”之痛

大家应该都有体会，大语言模型的知识是“定格”在训练时点的。ChatGPT的老用户对那个提示应该不陌生：“训练数据截止到2021年9月”。这就带来一个很现实的问题：模型会一本正经地胡编乱造（也就是“幻觉”），给出过时或不准确的回答。想在不重新训练或微调的前提下给它注入新知识？那可不是件容易的事，既费资源又费人力。

检索增强生成（RAG）——给大模型开一扇“外设”窗

于是，RAG应运而生。它的思路很直接：让LLM回答问题前，先从一个可靠的外部知识库里捞一把相关信息。这样一来，模型就不光凭自己的“记忆”瞎猜，而是有凭有据地整合外部数据。

RAG的核心运作分两步：

。

检索阶段

在这个阶段，系统会根据用户的查询（比如“福建炒面的配方”），从文档中找到内容最相关的片段。它通常使用向量相似度（比如余弦相似度）来衡量查询和文档片段之间的语义匹配程度。捞到相关片段后，系统会把这些“外设知识”拼接到用户的原始问题里，形成一个更丰富的输入，然后喂给语言模型。

内容生成阶段

到了生成环节，LLM拿着这个经过增强的提示，结合自身训练时积累的知识，生成针对用户问题的回答。这种回答既有定制化内容，又带有可追溯的信息来源，非常适合聊天机器人这类应用场景。

为什么RAG如此重要

如今，大模型驱动着大量自然语言应用，它们能理解和生成近似人类的文本。但即使再强大，它们也有翻车的时候——有时候自信满满地给出错误答案，措辞极具说服力，让人一不小心就被带偏了。

RAG的目标就是引导LLM去可信的源头找信息，从而保证输出的相关性和准确性。不过，现实中的RAG也并非十全十美。

传统RAG的局限

传统的RAG方法虽然具有开创性，但面临不少挑战。首当其冲的是检索准确性和数据源的多源异构问题。RAG经常需要依赖多个外部来源，这些来源可能是PDF、Markdown、CSV、网页等各种格式，标准不一，可靠性也参差不齐。另外，当查询本身比较模糊或者需要深层背景理解时，传统的检索过程常常会忽略掉那些微妙的上下文，导致回答不够精准。

RAG的提升方向

提升RAG系统的检索准确率和效率，一直是NLP和机器学习领域的热点。同时，有两个方向特别值得关注，它们是当前技术条件下可以实现的关键突破：

1. 更复杂的检索算法
   ——能够更深入地理解查询语义，从而捞到更相关的文档片段。

2. 高效的知识库索引
   ——在不牺牲检索质量的前提下加快查找速度。

那么，这自然引出了下一个话题……

Graph RAG：RAG与知识图谱的“联姻”

GraphRAG在RAG的基础之上，巧妙地把知识图谱（KGs）融入了进来。这个创新概念由NebulaGraph、Neo4j、微软等机构提出，它通过整合图数据库，彻底改变了LLM解释和响应查询的方式。

知识图谱是用节点和边构建的结构化表示：节点代表真实世界中的实体（人、地点、物体、概念），边代表实体之间的关系。当LLM借助这种结构来获取信息时，它就不再只是零散地拼凑文本片段，而是拥有了一个相互关联的知识网络。这种整合让模型能够访问到更精确、更上下文相关的数据，从而生成更加细致入微的回答。

目前，主流的图数据库产品包括Ontotext、NebulaGraph和Neo4j等。

为什么GraphRAG意义深远

随着LLM的能力不断进化，GraphRAG有望给AI领域带来重大变革。从行业趋势来看，这种整合将带来以下几个可能：

未来的LLM将在理解复杂查询和推理方面更进一步。GraphRAG可以借助这些进展，结合知识图谱的结构化知识，帮助人工智能在理解抽象概念、进行逻辑推理和给出精准回答方面实现突破。

LLM与知识图谱的整合将变得更加动态和自动化。比如，基于全球事件或发现，实时更新知识图谱；或者利用用户交互中收集的信息，让LLM自动增强并更新图谱。强化学习从人类反馈（RLHF）和从AI反馈（RLAIF）等技术，可以进一步将模型与人类偏好对齐，遵循HHH（有用、诚实、无害）原则。

随着NVIDIA等厂商推动AI计算民主化，未来的GraphRAG将更注重计算效率和可扩展性。这样一来，它就能在更广泛的场景中落地，包括需要实时响应的应用，或者资源受限的环境。

未来LLM将拥有更广博、更深入的知识。GraphRAG可以打通不同领域间的信息孤岛，生成融合多领域知识的洞见。例如，将认知科学发现应用于人机交互模型，或者结合网络安全与心理学以提升防御效度。

采用资源描述框架（RDF）等标准，有助于不同知识图谱系统之间的互操作。这意味着不同的实现方式可以相互协作，从而推动更广泛的采用和创新。

Graph RAG 实战演示

为了更直观地展示效果，我们用新加坡政府科技局（GovTech）开发者门户上的产品信息作为知识库，对比基础RAG与GraphRAG的表现。

1. 环境设置

• 通过Neo4j Desktop启动本地Neo4j实例。
• 使用LangChain连接Neo4j数据库。好消息是LangChain已经提供了现成的模板，可以快速上手。

2. 信息提取

• 利用提示工程和LLM来提取实体、节点及其关系。下面是一个提示示例，用以指导LLM构建知识图谱：

# Instructions for Creating Knowledge Graphs
## Overview
You are engineered for organising data into knowledge graphs.
- **Nodes**: Represent entities and ideas.
- The objective is to ensure the knowledge graph is straightforward and intelligible for broad use.

## Node Labeling
- **Uniformity**: Stick to simple labels for nodes. For instance, label any entity that is an organisation as "company", rather than using terms like "Facebook" or "Amazon".
- **Identifiers for Nodes**: Opt for textual or comprehensible identifiers over numerical ones.
- **Permissible Node Labels**: If there are specific allowed node labels, list them here.
- **Permissible Relationship Types**: If there are specific allowed relationship types, list them here.

## Managing Numerical Data and Dates
- Integrate numerical information directly as attributes of nodes.
- **Integrated Dates/Numbers**: Refrain from creating distinct nodes for dates or numbers, attaching them instead as attributes.
- **Format for Properties**: Use a key-value pairing format.
- **A voiding Quotation Marks**: Do not use escaped quotes within property values.
- **Key Naming**: Adopt camelCase for naming keys, such as `dateTime`.

## Uniformity
- **Entity Uniformity**: Ensure consistent identification for entities across various mentions or references.

## Adherence to Guidelines
Strict adherence to these instructions is mandatory. Non-adherence will result in termination.

3. 图谱构建

• 使用CSVLoader和文档分割工具处理原始文档。
• 将提取的信息映射成图节点和关系。
• 通过提取管道处理文档，并将结果存入Neo4j。

整个构建过程大约一小时，最终得到了一系列节点标签。不过，并非所有标签都对后续查询有用，有些标签过于细碎或偏离需求。

{
  "identity": 1040,
  "labels": [ "Feedbackstatus" ],
  "properties": { "id": "Feedback-Success", "message": "Sent. Thank you for the feedback!" }
},
{
  "identity": 1112,
  "labels": [ "Feedbackindicator" ],
  "properties": { "id": "Feedbacksuccess", "title": "check", "message": "Sent. Thank you for the feedback!" }
}
...

4. 评估与优化

• 指定允许提取的节点标签列表，以聚焦更有意义的信息，从而完善整个流程。

permissible_nodes_to_extract = [
  "Aisubfield", "Application", "Cloudservice", "Concept", "Digitalsolution",
  "Division", "Entity", "Feature", "Fundinginitiative", "Initiative", "Link",
  "Location", "Organization", "Person", "Platform", "Policy", "Program",
  "Resource", "Role", "Schema", "Service", "Standard", "Technology",
  "Technologyplatform", "Technologystack", "Webframework", "Webresource", "Website"
]

• 通过Neo4j浏览器浏览新构建的知识图谱，持续迭代优化提取和图构建方法。

效果对比

经过上述努力，神奇的事情发生了。我们来看几个查询的对比：

• 基础RAG回答（节选）
  ：“AiSay是新加坡政府开发的AI驱动文档阅读器。它可以自动检测、扫描和理解各种类型的文档……AiSay可以通过同步和异步调用选项进行扩展……”

• GraphRAG回答（节选）
  ：“AiSay是新加坡政府开发的AI驱动文档阅读器。它是一个文档解析器，可以提供结构化的响应……AiSay的一些关键好处包括：1. 减少手动错误，提高数据准确性……2. 改善数字服务体验……”

差异一目了然：GraphRAG不仅给出了准确的功能描述，还梳理了具体的好处、独特优势以及背后的团队关系，信息更丰满、上下文更连贯。

• 基础RAG
  ：“Govtech提供Cloak和FileSG两款产品……”

• GraphRAG
  ：“GovTech提供一款名为Cloak的产品，它是一个符合政策的数据去标识的中心隐私工具包。这个产品帮助公务员应用数据去标识技术到数据集……”

GraphRAG给出了更具体的产品定位和用途，而基础RAG只是罗列了名称。

• 基础RAG
  ：承认文档中没有SIaC的信息，无法比较，只能列出DIAB的特性。

• GraphRAG
  ：“DIAB和SIaC都是旨在为政府机构简化云基础设施部署的产品。但是，它们在特定重点和功能上存在差异……DIAB专注于数据基础设施……SIaC专注于安全与合规……”

GraphRAG凭借图谱中的关系信息，成功将两个产品放在一起进行了有意义的对比，而不是简单地说“查不到”。

结论：从RAG到GraphRAG的跃迁

从传统RAG走向GraphRAG，代表着我们与LLM交互方式的一次重要升级。它直指一个核心难题：

。

对比两种方法，GraphRAG在应对需要上下文联系的复杂问题时优势明显——它利用知识图谱构建的互联信息网络，捕捉到了传统方法容易忽略的微妙关系和细节。

但话说回来，GraphRAG并非解决所有问题的“银弹”。

。如果知识图谱覆盖有限或存在领域偏向，那GraphRAG的表现可能并不比传统RAG强。不过，这种过渡无疑将催生出更能反映人类思维、更擅长发现连接的人工智能系统。