企业级RAG向量检索的限制和Writer的GraphRAG方案 - Part2

前两天刚聊完Writer的GraphRAG实践（Part 1），这次我们继续深入，专门说说向量检索的短板，以及图方案怎么补位。

一句话总结：企业用基于向量的RAG，虽然流行，但坑不少——分块粗糙、算法低效、密集/稀疏映射头疼、成本高还容易输出不靠谱。Writer搞了个基于知识图谱的替代方案，算是打了个不错的样。

企业现在都在往生成式AI上靠，想让LLM真正理解公司内部的那些数据。但问题是，LLM是拿公共数据练出来的，单靠它去理解你的业务，就是瞎子摸象。所以得想办法让LLM基于你的内部数据来干活。这事儿，就是RAG（检索增强生成）要解决的。

传统做法里，向量检索是主流，但它真的适合企业级场景吗？咱们不妨掰开揉碎了看看，顺便聊聊Writer基于图的RAG方案有什么不一样。

向量检索试图解决什么问题？

过去，搜东西基本靠关键词匹配——你搜什么词，系统就找带那个词的文档。可放到自然语言问答里，这招就不灵了。比如你搜“寻找团体社交活动供烹饪爱好者参与”，关键词系统是没办法自动联想到“烹饪课程”或“美食品尝活动”的。你得在一大堆无关结果里自己翻，才能找到有点价值的东西。

向量的思路是用机器学习去撞语义。它不看你写了什么词，而是看你表达的是什么意思。这种“语义相似度”的匹配，明显比硬碰关键词灵活得多。

向量检索如何工作？

任何信息检索流程，都逃不过三个步骤：数据处理、查询与检索、答案生成。

先把长文本切成100到200个字符的小块，再把每个块转成一段数字向量（即“向量嵌入”），存进向量数据库。块与块之间的关系，靠向量之间的距离来判断——比如“食物”和“烹饪”在数字空间里就比“食物”和“椅子”离得近。

用户提问时，问题也被转成向量。然后用K近邻（KNN）或近似近邻（ANN）算法，从库里找出离它最近的K个数据点。

把这K个向量还原回对应的文本块，喂给LLM，让它推理出答案。

听着很顺，但真落地到企业，就有不少地方让人头疼。

向量检索的几大硬伤

因为LLM处理上下文的能力有限，数据不得不被切成100~200个字符的碎块。这么做，很容易把原本连贯的信息拆散。比如你只检索到一句“他们重新开始了原型制作过程，使用了替代成分，有时从美国进口成分来进行测试”，但不知道“他们”是谁、为什么用美国成分——上下文全丢了。无论对人还是对LLM，这都是一种折磨。

而且向量只能量“相似度”，没法告诉你这些片段之间到底什么关系。

KNN是1951年搞出来的算法了，天生就不太适合现代信息检索。具体来说：

• 伸缩性差：
  数据一大，KNN就慢得没法看，直接影响整体性能。

• 维数灾难：
  维度一高，KNN很难找到有意义的模式，结果越来越不靠谱。

• 内存和存储吃紧：
  整个训练集都得塞内存里，成本高得吓人，新增数据还得整个重跑。

• 对噪声和离群值敏感：
  跑偏几个点，结果就能歪到姥姥家。

• K值难调：
  K选得不好，不是过拟合就是欠拟合，全靠试。

• 数据不平衡：
  数据分布不均，算法会偏袒大类，忽略小类。

ANN一定程度上能提速，但牺牲了精度，而且参数调整更磨人。企业数据又大又杂，这两套算法显然不是最佳答案。

企业数据经常会遇到两种情况：一是某些关键词（比如设备型号）频繁出现，导致向量空间里大量数据点挤作一团，这叫“密集映射”。二是表格、代码这类数值型数据，和文本混在一起时，容易被归为一类，产生“稀疏映射”。无论哪种，都会让系统拉回大量无关信息，检索精度大打折扣。

向量数据库每次加新数据，都不能只是简单地追加——你得把整个数据集重新跑一遍，为每个对象重新分配向量值。对于每天都有新数据涌入的企业环境，这显然是又贵又笨。

LLM的输出质量，直接由输入数据决定。如果向量检索本身就没拿对数据，那LLM再聪明也白搭。最终结果就是输出不稳定，甚至出现幻觉。对需要可靠答案的企业应用来说，这风险太大。

基于知识图谱的RAG：企业RAG的更好方法

Writer的做法是把数据组织成图结构：实体是节点，关系是边。比如客户数据库，每个客户是一个节点，他们和哪些产品有关联，就用边连起来。

流程还是那三步，但内核不一样：

• 数据处理：
  用专门的LLM从数据里提取实体和关系，构建知识图谱。不再盲目分块。

• 查询与检索：
  用NLP、启发式规则和机器学习，理解查询的上下文，找到图上最相关的实体和关系。

• 答案生成：
  把找到的精准数据点送给LLM，生成回答。

这么做的好处很实在：

• 文件支持广：
  文档、表格、PPT、PDF、音频、视频，什么都能处理。

• 密集数据不怵：
  向量检索面对高度集中的数据容易翻车，知识图谱反而擅长。

• 更新成本低：
  加新数据就像在图上添个节点或边，不用全量重跑，既快又省钱。

发现企业RAG的全部潜力与Writer知识图谱

说到底，向量检索并不是万能钥匙。知识图谱加LLM的组合，把数据之间的语义关系保住了，检索精准度自然就上去了。对企业来说，选择合适的技术，才能让生成式AI真正发挥内部数据的价值。

如果你还在纠结RAG落地的方案，不妨从“你到底多需要上下文关系”这个角度切入——试试基于图的思路，说不定会有惊喜。