在业务中掌握 AI：使用 RAG 和 CRAG 构建企业级 AI 平台

企业引入生成式AI时的风险与应对策略

当企业开始尝试引入生成式人工智能时，往往会遇到一系列需要战略管理的业务风险。这些风险通常环环相扣，从导致合规问题的潜在偏见到缺乏领域知识，任何一个环节都可能引发连锁反应。主要问题包括：声誉受损、难以遵守法律法规（尤其是在客户互动方面）、知识产权侵权、道德困境，以及在处理个人或可识别数据时的隐私风险。

为了应对这些挑战，一个推荐的做法是采用混合策略，比如检索-增强生成（RAG）。RAG能够有效提升AI生成内容的准确性与相关性，为企业AI项目提供一个更安全、更可靠的框架。这一策略不仅能直接解决知识匮乏和信息错误的问题，还能帮助企业遵守法律与道德规范，从而避免声誉受损和合规风险。

什么是检索增强生成（RAG）？

检索增强生成（RAG）是一种先进的方法，它通过整合企业知识库的信息来提升AI内容创作的准确性与可靠性。我们可以这样理解：把RAG想象成一位顶级主厨。这位主厨不仅拥有与生俱来的天赋、全面的培训和创造力，还始终有扎实的烹饪基础知识作为支撑。当需要用到一种不常见的香料，或者要创作一道新颖的菜肴时，他会毫不犹豫地去查阅可靠的烹饪资料，确保食材得到最佳利用。

就像主厨能烹制出各种菜肴一样，GPT、LLaMA-2这类AI系统也能生成各种主题的内容。但当它们需要提供具体、准确的细节时，尤其是在处理像新颖美食这样复杂的话题，或是浏览海量企业数据时，就会调用一种特殊的工具来确保精确和深度。

当RAG的检索环节出现问题时怎么办？

这时，Corrective-RAG（CRAG）就登场了。它的作用是增强RAG系统的鲁棒性。CRAG会利用T5模型来评估检索到的文档的相关性。如果从企业数据源获取的文档被认为与查询无关，系统会转而使用网络搜索来填补信息空白，确保不遗漏任何有价值的信息。

企业级生成式AI的架构设计要点

这套架构的核心主要围绕三个基本支柱构建：**数据摄取**、**查询与智能检索**，以及**生成提示工程与LLM**。

数据摄取

这是第一步，目标是将公司文档的内容转换为易于查询的格式。这个转换过程由嵌入模型完成，遵循以下步骤：

1. 数据分割
   ：来自Confluence、Jira、PDF等企业知识源的各种文档被摄入系统中。这一步的关键是将文档分解成可管理的小块，通常称为“块”。

2. 嵌入模型
   ：这些文档块随后通过嵌入模型进行处理。嵌入模型是一种神经网络，它能将文本转换成表示其语义的数字形式（即向量），方便机器理解。

3. 索引块
   ：嵌入模型生成的向量需要被索引。索引是一种组织数据的方式，目的是为了提高后续检索的效率。

4. 向量数据库
   ：所有生成的向量嵌入都会保存在向量数据库中。同时，每个嵌入所代表的原始文本也会被存储在其他文件中，并包含对该嵌入的引用。

查询与智能检索

当推理服务器收到用户的问题后，会通过同样的嵌入过程将其转换为向量。随后，向量数据库开始搜索，找出与用户意图最相关的向量，并将它们提供给大型语言模型（LLM）来丰富上下文。

1. 查询
   ：查询来自应用程序和API层。这是用户或其他应用程序在搜索信息时输入的内容。

2. 嵌入查询检索
   ：利用生成的向量嵌入，在向量数据库的索引中开始搜索。需要确定要从向量数据库中检索多少个向量，这个数字与计划编译并用于解决问题的上下文信息量成正比。

3. 向量（相似向量）
   ：该过程会识别出与查询上下文相关的文档块所对应的向量。

4. 检索相关向量
   ：从向量数据库中检索出相关向量。例如，在厨师的比喻中，这可以对应两个相关的向量：一个是“菜谱”，另一个是“准备步骤”。相应的文本片段会被收集起来，连同提示一起提供。

5. 检索相关块
   ：系统会获取与查询相关的向量相对应的文档部分。在评估完信息的相关性后，系统会决定下一步行动。如果信息完全吻合，就按其重要性进行排列；如果信息不正确，系统会将其丢弃，并在网络上搜索更好的信息。

生成提示工程与LLM

提示工程对于指导大型语言模型给出正确答案至关重要。它要求创建清晰、精确的问题，并考虑到任何数据上的差距。这是一个持续的过程，需要定期调整以获得更佳的回答。此外，确保提示符合道德规范、没有偏见，并避免触及敏感话题，也同样重要。

1. 提示工程
   ：检索到的块与原始查询一起被用来创建提示。这个提示设计的目的是有效地将查询的上下文传达给语言模型。

2. LLM（大型语言模型）
   ：工程化的提示由大型语言模型处理。这些模型能够根据收到的输入，生成类似人类的文本。

3. 答案
   ：最后，语言模型利用提示和检索到的块提供的上下文，生成对查询的答案。这个答案会通过应用程序和API层返回给用户。

结论

这篇指南探讨了将人工智能集成到软件开发中的复杂过程，重点介绍了受CRAG启发的企业级生成式AI平台的变革潜力。通过解决提示工程、数据管理和创新的RAG方法的复杂性，我们勾勒出了一条将AI技术融入企业运营核心的路径。未来的讨论将进一步深入探讨用于智能开发的生成式AI框架，研究那些最大化AI利用价值的具体工具、技术和策略，从而确保更智能、更高效、更高效的开发环境。