RAG 企业级应用落地框架细节差异对比

RAG（检索增强生成）这个概念，乍一听挺玄乎，拆穿了讲，核心就三件事。

第一，

（Indexing）—— 怎么把知识存得规整、存得聪明。第二，（Retrieval）—— 面对一个庞大的知识库，怎么能精准地挑出最有用的那几条信息，送到大模型面前。第三，（Generation）—— 把用户的提问和检索回来的知识揉在一起，让大模型给出一个靠谱的回答。

光看这三步，感觉好像不难？但真要从搭建到部署走一遍，你就知道这里面藏着多少细节活儿。也正是这些细节，决定了最终效果的优劣。

行业内主流的开源RAG框架，虽然在整体架构上大同小异，但在具体落地上却各有各的“独门绝技”。下面就来逐一拆解，看看它们到底差异在哪。

开源RAG框架架构：各家亮点的速览

先给大家一个全景式的印象，每个框架都有自己最拿手的那张牌：

• 网易 QAnything
  ：最大的杀器是它的Rerank（重排序）模块。

• RAGFlow
  ：强项在于数据处理和知识索引的构建。

• 智谱 RAG
  ：在文档解析、切片、Query改写以及召回模型的微调上功力深厚。

• FastGPT
  ：最大的优点是模块化设计，动态配置极其灵活。

模块级深度拆解：从文档读取到最终输出

光看亮点不过瘾，我们深入到每个关键模块，看看这些框架是怎么“各显神通”的。

1. 知识处理模块：第一道工序

这是所有工作的起点，文档喂得好不好，直接决定了后续效果。

• QAnything
  ：在PDF解析上直接用了目前效率公认最高的PyMuPDF库，无论是文本还是图像，都通过其get_text方法提取内容。但有个坑要注意——如果图像文件里本身不含文字，这个方法就会出错。

• RAGFlow
  ：这个模块做得非常重，集成了OCR和文档布局分析。在标准RAG系统里，这些功能通常被归到一个不起眼的“非结构化数据加载器”里。可以说，RAGFlow的核心竞争力之一，很可能就藏在这个文件解析能力上。

• 智谱 RAG
  ：未在原文中详细说明。

• FastGPT
  ：未在原文中详细说明。

2. 召回模块：从海量信息中“捞针”

召回是RAG最核心的环节之一，直接决定了大模型能看到什么材料。

• QAnything
  ：向量库采用了Milvus，并使用了混合检索策略（BM25全文检索 + 向量检索）。特别之处在于，检索时不做任何阈值截断，而是直接返回Top 100的结果，把排序的活儿交给后面的Rerank模块。

• RAGFlow
  ：向量数据库选的是ElasticSearch，同样是文本检索与向量检索的混合模式。在文本检索侧，用的是“huqie”这个分词工具。

• 智谱 RAG
  ：走的是混合检索路线，语义检索和全文检索结合，用BGE-M3作为向量模型。但它并不直接用向量或文本的原始得分来召回，而是引入了RFF算法来做排序融合，思路更精细。

• FastGPT
  ：为了解决长文档的结构问题，采用了“文章结构切片”和“递增索引”策略。最亮眼的是它提供了四种数据构建方案：
  • 查询对原文：直接召回知识片段。
  • 查询对查询：便于维护，自动提取查询。
  • 查询对摘要：建立摘要与片段的映射关系。
  • 伪答案对原文：先生成伪答案，再用伪答案去召回原文片段。
  而且，它还支持对Embedding模型进行微调。

3. Rerank模块：给召回结果“排座次”

召回回来的信息很多，但质量参差不齐，Rerank负责做最后的精排。

• QAnything
  ：使用了自研的Rerank模型来进行精确排序，阈值设定为0.35，精确度很高。

• RAGFlow
  ：重排时结合了文本匹配得分和向量匹配得分，默认权重分配是文本0.3，向量0.7。

• 智谱 RAG
  ：支持动态配置Rerank模型。它会将Embedding和全文搜索的结果按ID去重，对QA字符串进行拼合、空格和标点清理后做哈希去重。如果配置了Rerank模型，则调用它重新排序并在分数中新增一行；如果没配，评分中就不含这部分。

• FastGPT
  ：未在原文中详细说明。

4. 大模型处理模块：最终的“大脑”

• QAnything
  ：将所有数据集合并成一个Prompt，并对最大Token长度做了优化。

• RAGFlow
  ：对大模型可处理的Token数量进行限制和筛选。

• 智谱 RAG
  ：未在原文中详细说明。

• FastGPT
  ：在模型微调上有一套分步策略——先用公开的通用问答数据集做初步微调，再用特定领域的数据进行二次微调，最后用人工精确标注的高质量数据做细致打磨。

5. Web服务与基础设施模块

除了算法逻辑，工程实现也是衡量一个框架成熟度的重要指标。

• QAnything
  ：Web服务用Sanic框架搭建。

• RAGFlow
  ：Web服务基于Flask构建，文件存储则选用了MinIO。

• 智谱 RAG
  和

  FastGPT
  ：在切词、文件存储等模块上，原文未详细说明。

在中文分词方面，QAnything用的是自定义的ChineseTextSplitter，而RAGFlow则继续沿用了“huqie”。

如何选？没有最好的，只有最合适的

总结一下各家所长：

• QAnything
  ：Rerank模块的设计堪称一绝。

• RAGFlow
  ：文档处理的功底无人能出其右。

• FastGPT
  ：模块动态配置最灵活，可玩性高。

• 智谱 RAG
  ：在特定领域数据的微调训练上表现最佳。

不过话说回来，一切脱离业务场景谈架构都是“耍流氓”。没有绝对的“最好”，只有最适合你的那一个。在你的具体业务里，能顺利落地、产生实际价值的，就是最优解。实践出真知，落地才是硬道理。