重磅 - 微软官宣正式在GitHub开源GraphRAG

今年早些时候，微软推出了GraphRAG，目标是为大模型RAG知识增强解锁新可能，并预告了即将开源。就在昨天晚上，微软正式宣布GraphRAG已在GitHub上提供。相比传统的RAG方法，它在结构化信息检索和全面响应生成方面带来了显著提升。

GraphRAG的代码仓库同时配备了一个解决方案翻跟斗，旨在帮助用户在Azure上快速部署。

这套方案提供了易于使用的API体验，几乎无需编码，几次点击即可完成部署。其核心思想是利用大型语言模型（LLM）自动从任何文本文档集合中提取丰富的知识图谱。

这种基于图的数据索引最引人注目的特性之一，是它能在用户查询之前就报告数据的语义结构。具体来说，它通过分层方式检测“社区”中密集连接的节点，从高级主题到低级主题，在多个层次上对图进行分割（如图1所示）。然后，LLM会为每个社区生成摘要，从而创建数据的分层摘要——这意味着即使你不知道该问什么问题，它也能为你提供一个数据集的全貌。每个社区的摘要描述了其中的实体及其关系。

可以说，GraphRAG是一种结构化、分层的检索增强生成方法，不同于使用纯文本片段的朴素语义搜索。整个流程涉及从原始文本中提取知识图谱、构建社区层次结构、为这些社区生成摘要，然后在执行基于RAG的任务时充分利用这些结构。

Solution Accelerator 方案

为了快速启动GraphRAG系统，建议尝试Solution Accelerator套餐。它为用户提供了一套端到端的体验，且基于Azure资源，上手非常友好。

开始使用 GraphRAG

要开始使用GraphRAG，可以先查阅入门指南，快速了解基本操作。如果想深入理解主要子系统，可以查看“索引器”和“查询”软件包的文档页面。

GraphRAG 与基准RAG 对比

检索增强生成（RAG）是一种利用真实世界信息改善LLM输出的技术，已经成为大多数基于LLM的工具的核心组成部分。大多数RAG方法使用向量相似性作为搜索技术，这被称为基准RAG。而GraphRAG则通过知识图谱来显著提升推理复杂信息时的问答性能。

RAG技术已经展现出帮助LLM理解私有数据集的潜力——这些数据是LLM没有训练过、从未见过的，例如企业的专有研究、商业文档或通信记录。基准RAG最初就是为了解决这类问题而设计的，但实践中却发现它在某些场景下表现欠佳。例如：

• 基准RAG难以连接分散的信息点。当回答需要跨不同信息片段、通过共享属性提供新的综合见解时，它往往力不从心。

• 在要求全面理解大数据集或单个大文档中的语义概念时，基准RAG的表现也不理想。为此，技术社区正在积极探索扩展和增强RAG的方法。

微软研究团队提出的GraphRAG，使用LLM基于输入语料库创建知识图谱。这个图与社区摘要、图机器学习输出一起，在查询时用于增强提示。实验表明，GraphRAG在回答上述两类问题时表现出了显著的改善，显示出超越先前应用于私有数据集的其他方法的智能水平。

GraphRAG 流程

GraphRAG建立在之前图机器学习研究与工具化工作之上。其基本步骤包括：

• 将输入语料库切分为一系列TextUnits，这些单元作为整个流程中可分析的基本单位，并在输出中提供细粒度引用。
• 使用LLM从TextUnits中提取所有实体、关系和关键主张。
• 利用Leiden技术对图进行分层聚类（可参照下图可视化结果：每个圆圈代表一个实体，如人、地点或组织；大小表示程度，颜色表示社区）。
• 从底层向上生成每个社区及其成员的摘要，帮助全面理解数据集。

在查询时，这些结构为LLM的上下文窗口提供素材，用于回答问题。主要查询模式包括：

• 全局搜索
  ：用于回答关于语料库的整体性问题，利用社区摘要。

• 本地搜索
  ：用于回答关于特定实体的问题，并展开到其邻居和相关概念。

直接使用GraphRAG可能不会得到最佳结果。强烈建议根据文档中的提示词微调指南对提示进行微调，以获得更优表现。

社区摘要对“全局问题”的优势

在最近的研究中，我们探讨了社区摘要如何帮助回答全局性问题——这类问题涉及整个数据集，而非专注于特定的文本块。朴素RAG基于向量搜索的方法存在固有局限。例如，考虑问题“数据集中的主题是什么？”这看似简单，但朴素RAG往往给出误导性答案。原因在于，它生成的答案来自语义上与问题相似的文本块，而并不一定来自需要回答问题的输入文本子集。当问题涉及整个数据集时，应当考虑所有输入文本。由于朴素RAG只考虑前k个最相似的文本块，自然难逃失败。更糟糕的是，它会将问题与表面上相似但实际无关的文本块匹配，导致答案跑偏。

社区摘要有效解决了这一难题。因为实体和关系描述的图索引在构建过程中已经考虑了所有输入文本，所以可以采用一种映射-减少方法，保留全局数据上下文中所有相关内容：

• 将社区报告分组到LLM上下文窗口大小。
• 将问题映射到每个组，生成社区答案。
• 将所有相关社区答案减少到一个最终全局答案。

评估与结果

为了比较该方法与朴素RAG和分层源文本摘要的效果，我们使用LLM GPT-4从播客转录和新闻文章两个数据集中生成了多样化的问题。随后选择了三个指标来评估生成的答案：全面性（是否详细涵盖所有方面）、多样性（是否提供不同视角）和赋权性（是否支持知情决策）。

结果显示，GraphRAG在使用社区层次结构中任意层次的社区摘要时，在全面性和多样性方面均优于朴素RAG（胜率约70-80%）。使用中级和低级社区摘要的GraphRAG在这些指标上甚至优于源文本摘要，且标记成本更低（每次查询所用标记数少20-70%）。对于最高层社区，其性能与分层源文本摘要相当，但标记成本仅为其2-3%。图2清晰展示了这一点。

研究见解与未来方向

第一个研究周期表明，LLM能够成功从非结构化文本输入中推导出丰富的知识图谱，而这些图谱可以支持一类全新的全局查询——对于这类查询，(a) 朴素RAG无法生成适当回应，(b) 分层源文本摘要的每次查询成本过高。不过，GraphRAG对于任何特定用例的整体适用性，取决于结构化知识表示和现成社区摘要的好处是否超过了图索引构建的前期成本。

目前，团队正在探索各种降低这些成本的方法，同时保持响应质量。最新的工作包括针对问题领域自动调整LLM提取提示，展示了如何减少定制提示、列举实体类型、创建少量示例等所需的前期工作。为了在最小前期索引成本下评估GraphRAG，还在研究基于自然语言处理的方法，以近似模拟完整索引过程生成的知识图和社区摘要。目标是确保无论部署背景的约束如何，总能找到一个能适应这些约束的GraphRAG配置，同时提供卓越的响应质量。

通过公开GraphRAG及其解决方案翻跟斗，我们致力于让基于图的RAG方法对于需要全局理解数据的用户和用例更加易于访问。在共同推动下一代RAG体验的过程中，期望社区对代码仓库和解决方案翻跟斗提出反馈与建议。

GraphRAG是一种基于人工智能的内容解释和搜索能力。它利用LLM解析数据以创建知识图谱，并回答用户关于私有数据集的问题。

GraphRAG能够跨越大量信息连接不同信息点，并利用这些连接回答那些使用关键词或基于向量搜索的机制难以或无法回答的问题。它能够提供关于系统如何为各种用途提供功能的半技术、高层信息。这使得使用GraphRAG的系统能够回答涉及多个文档的综合性问题，以及主题性问题，例如“这个数据集中的顶级主题是什么？”

GraphRAG旨在支持关键信息发现与分析用例，其中获取有用见解所需的信息跨越多个文档，混杂着噪音、错误或虚假信息，或者用户尝试回答的问题比底层数据更抽象或主题化。它适用于已经过负责任分析方法培训并且期望进行批判性推理的用户环境。尽管能够在复杂信息主题上提供高度见解，但仍需要领域专家对答案进行人工分析，以验证和增强其响应。

GraphRAG设计为与特定领域的文本数据语料库一起部署使用。它本身不会收集用户数据，但建议用户验证所选用LLM的数据隐私政策。

GraphRAG从多个方面进行了评估，重点关注：1）数据集的准确表示，2）提供响应的透明度和扎实基础，3）对提示和数据语料库注入攻击的抗性，4）低幻觉率。具体评估方式如下：

1. 数据集的准确表示通过手动检查和针对测试语料库随机子集创建的“金标准答案”自动测试来验证。

2. 透明度和响应的扎实基础通过自动化答案覆盖评估和人工检查返回的基础上下文来测试。

3. 我们使用手动和半自动技术测试用户提示注入攻击（“越狱”）和跨提示注入攻击（“数据攻击”）。

4. 通过索赔覆盖度指标、答案和来源的手动检查，以及针对恶意和异常具有挑战性数据集的对抗性攻击来评估幻觉率。

GraphRAG依赖于良好构建的索引示例。针对一般应用（如围绕人员、地点、组织、事物等内容），我们提供了示例索引提示。对于独特数据集，有效索引取决于对领域特定概念的正确识别。索引属于相对昂贵的操作；缓解的最佳实践是在目标领域创建一个小型测试数据集，确保索引器在大规模索引前表现良好。

GraphRAG面向具有领域复杂性和经验以解决困难信息挑战的用户。尽管该方法对注入攻击和信息冲突来源具有较强鲁棒性，系统仍为可信用户设计。对响应进行适当的人工分析对于生成可靠见解至关重要，并且必须追踪信息源头以确保人类对推断的一致性。

GraphRAG在以整体主题为中心的自然语言文本数据上效果最佳，且数据内容丰富——实体可以是人员、地点、事物或可唯一标识的对象。

尽管GraphRAG已经评估了对提示和数据语料库注入攻击的弹性，并探讨了特定类型危害，但用户配置的LLM可能生成不当或冒犯性内容，因此不适合在敏感环境中直接部署，除非使用适用于其用例和模型的额外缓解措施。开发人员应评估上下文输出，并利用可用的安全分类器、模型特定安全过滤器或针对用例的定制解决方案。