构建企业专属大模型知识库，解决企业知识管理与应用难点

企业做知识库，摸爬滚打这么久，普遍碰到的难题其实就那么几个：缺乏长期规划、组织机制和文化没跟上、智能化程度不够。说白了，就是三个短板。大模型+知识库这套体系，恰好是从知识管理的底层逻辑切入，帮企业探索更多场景下的知识应用形态，从而把知识的价值真正提上来。

接下来，这篇文章打算从三个角度展开聊聊：先说说知识库建设路上的那些坑，再梳理一下AI+知识库的建设框架和路径，最后用四个不同场景的落地案例收尾。

知识库建设背景

企业现在做知识库，遇到的困难确实不少，总结下来主要是这三块。

不管企业有没有正经搞过知识库，不少地方还在用纸质办公的一套，很多数字信息甚至都没电子化。光是做电子转换这一步，就需要额外投入大量精力。再加上不同部门之间信息孤岛的情况很普遍——管法不一样，建库的方式自然也各搞各的，彼此之间根本打不通，知识管理自然就散得七零八落。

有些企业建知识库的时候，就是把一个简单的文库搬进去，往平台里一丢就完事了。到了真要搜索、验证、使用的时候，问题就大了。举个例子，有个设备维修人员想查某台设备的维修参数，结果搜到的是一整本维修手册。他得在几百页里自己翻，不仅麻烦，还特别浪费时间。

这一点是企业反馈最多的。很多企业确实有专家资源，不论是客服、营销、金融、设备管理，还是传统行业里的老师傅，都积累了大量经验。但问题是，经验都在他们脑子里，没法很好地呈现出来。所以，我们需要一个平台，既能给企业用户用，又能在平台上抽取这些经验，帮他们找到答案。这是当前最大的痛点。

说到企业知识管理的发展方向，我们希望打造三种场景。

第一个是

。企业建知识库或搭知识平台，必须是能沉淀出有效资产的。这个资产可以是知识平台本身，也可以是知识库，还可以是未来在推广运营阶段能给用户用的产品。知识资产化，能实实在在地提升效率。

第二个是

，这也是目前比较关注的点。现在的知识库或者知识智能引擎产品，应该是能具象化满足企业用户日常知识消费场景的，比如做业务查询、找案例。可以用企业现有的知识搭平台，完成运营服务、考试培训之类的事。深入到具体场景，就能为企业打造一个贴合场景的知识底座。用场景来反推知识构建的维度，这个思路超越了以前那种单纯靠实体或关系做关联的知识图谱，也超越了单纯从文档角度查询的知识库。

第三个是

。不管是大模型时代，还是之前，大家都在给客户做智能化产品。以前没有大模型，我们也会在搜索上做优化，比如在检索阶段借助召回能力，对搜索引擎做一些优化，实现深度语义表征。可以用向量表征结合Bert这类模型做优化，提升召回水平，效果比直接用ES要好。在知识运营阶段，也可以用小模型，比如GPT-2、T5这些，来生成数据或类似的问题，甚至借助工具生成数据、提升运营水平。知识运营的图谱方面，也有很多技术能完成实体抽取和搭建。在创新平台上，也需要智能化来做提升，改进使用方式。

从企业服务的角度看，以前做推荐更强调用户画像，给客户的知识平台做权限管理。到了大模型时代，用RAG的方式做知识召回和问答，一步就能得出答案。运营阶段用得更多——不管是知识获取，还是推理和判断，都可以借助语言模型的能力来做持续运营。此外，还可以借助大模型的Agent场景或LangChain来提升工单等服务。

企业怎么打造一个全链路智能化的知识管理平台？在知识交互阶段，主要分三个部分：

（应用就是消费场景）。知识管理的底座，可以建一个统一的AI底座，提供传统的NLP能力，比如分词、抽取、生成、判断、情感识别等。再结合大模型引擎——无论是企业自研、用信任数据做SFT的模型，还是调用开放的API，比如OpenAI或文心一言，都能接进来用。

在知识构建阶段，要把知识分成多种模式。比如一个文档，要先做拆解，用知识加工工具去处理。如果要分析段落的版面，比如发现文档是扫描件或PDF，就要通过知识加工体系找出段落，里面包含的图片、公式、表格信息都得解析出来。知识图谱的工具也一样，如果在企业内部建图谱，需要调用工具完成三元组抽取，帮助图谱构建，提升效率。

知识存储阶段，现在分成几大部分。针对大量的文档信息，要建一个文档库来做抽取和解析。解析过程中，不仅要保证文档能被向量化，还要能被查询、编辑——企业用户有这个需求。因为有大模型，还要提升RAG的质量和召回能力，所以存储阶段还要建向量库，存向量知识，也就是文档的特征表示。如果要用知识图谱存，还得用图数据库。存储之前，需要做融合——在一次检索时，要展示出对应的文档信息和案例。比如在能源行业，搜索“某个设备变压器起火了，怎么处理”，展示的内容包括变压器的图谱信息、生产厂商（可能来自结构化信息），还有生命周期管理信息（什么时候维修保养的），以及处理方式（可能来自操作手册或行业标准）。当然，经验案例也很重要。这些信息都要在平台或页面上做好展示，就得靠有效的知识存储和融合。融合之后，一次检索才能把这些信息都召回来。

知识消费阶段包含很多场景：搜索、推理、问答、生成等等。可以借助AI底座和引擎完成这些能力，也可以结合图谱和大模型来做。消费阶段，企业很看重可视化展示，可以用图谱展示知识的关联关系，也可以用案例、视频来做。为了进一步提升交互质量，还需要推理分析——比如遇到问题怎么处理，不同区域情况不同，策略也不一样，得靠图谱做推理。

这就是全链路的知识管理，涵盖了知识构建、知识存储和知识消费三大阶段。

打造AI+知识服务体系

结合AI场景给企业用户打造的知识服务体系，底座是统一的AI底座，上面有各种AI组件，不管来自大模型还是小模型，包括图片生成、以图搜图、OCR等场景。

基于这个AI底座，有三款产品。AI galaxy是AIGC平台，用来让大模型生成邮件、文案、代码等。企业用户如果有需要，可以在这个平台上用自研模型或外部模型。比如从对话中抽关键信息做摘要，就可以把几轮对话传到平台，完成抽取和概要生成。

第二个是知识智能，重点是给企业打造统一的知识服务。底座有知识中心和知识图谱。前期构建阶段需要知识工程的介入，存储阶段可以用知识图谱存，也可以别的方式，构建知识中心平台来用。最后是AI+知识的智慧营服，结合实际场景做知识消费。云问科技是做智慧客服起家的，结合AIGC或大模型的能力给企业提供智慧营服——不管是在营销还是客服阶段，都可以用文本机器人、电话机器人、虚拟人、在线客服呼叫中心等，统一使用知识。完成知识构建后，不管是企业提供搜索引擎做知识搜索，还是跟文本机器人交互，或者给客服、营销人员提供平台使用，都能在这个底座下完成。

在知识构建环节，首先是知识工程，很多都是工程化的东西。主要问题是知识边界难界定，需要大量人力处理。这个阶段要做知识抽取、段落拆解，把文档还原成可编辑的信息——表格、公式、图片都要能检索、使用和消费。构建完成后会有人工审核阶段，这样知识工程才能用，问答机器人可以用知识中心来做搜索和交互。

知识相关的项目没有知识图谱是很难立项的。知识图谱当时很火，因为逻辑自洽受到推崇。无论是使用阶段还是用户交互阶段，在搜索某个信息时，能同时知道关联信息，还能做图上的交互——这超越了以前搜索引擎的简单信息展示。还打造了推理场景，比如用Protege这类工具做知识推理。举个例子，实际场景里查询“南京地区的电价是多少”，可能当地没存南京的电价，但江苏省有统一执行标准，知道南京属于江苏，就能推理出南京的电价。随着时间推移，大家做图谱交互时发现，图谱构建阶段人力成本非常高，所以打造了图谱构建流程——从本体构建、框架制定到图谱生成完成搜索。大模型时代来了之后，无论知识构建还是消费阶段，结合图谱信息做展示，都有更好的模式。

知识图谱是知识的重要承载形式。给企业用户推出的智能知识中心，打造统一的搜索来完成整个交互，呈现模式包括图谱和知识的呈现。当然还有大模型交互，生成结果类似于Copilot模式。去年年初大模型刚火的时候，大家都在想怎么接入。在搜索引擎上加一个按钮，或者在按钮背后加一套逻辑，天然就能用IG场景做呈现，成本低、交互顺畅，而且大家对搜索引擎已经很习惯了，知识交互模式结合IG场景也是个不错的交互方式。

除了搜索，知识还有其他消费场景，比如企业内部培训。不管运营商还是其他企业，内部培训都是很消耗资源的，要花很多成本。在以知识为核心的场景下，给企业用户搭建知识中心，可以在上面学习，甚至还能结合大模型，基于上传的PPT生成脚本、制作视频。还可以根据要求培训出智能客服，让机器人扮演客户做咨询练习。还有检测环节——企业需要给培训人员考试，结合现实场景和现有信息或知识点，可以生成问题，人工审核后导入题库，模型自己做评价。总的来说，知识中心的能力远超搜索本身。

实际落地的经验案例

案例一：面向企业知识应用全生命周期的内部知识库

在我们企业内部使用时，打造的产品体系功能很丰富。企业内部会涉及智慧办公——不管教育考试、培训还是检索，都离不开知识库的需求。这个阶段可以用统一知识库结合大模型场景来提供服务。知识门户、检索、搭建社区，都是企业内部适用的场景。

案例二：电子工程设计院面向标准管理的知识库应用

这个设计院面对的场景是海量文档信息——行业文档、企业文档、行标、企标、国标等等。最主要的工作是审核。比如某家企业提交了标准，这时候最大的开销就是业务人员要花时间审核：当前的标准符不符合要求？想知道企业里的要求跟国家标准对不对得上，就得大量翻找和查询。有了大模型知识库的检索模式，可以快速定位信息，完成检查和服务。

电子工程院用到的模型不少：要做知识拆解、信息召回、判断信息是否符合标准，会用到很多大模型或知识工程。要先完成文档拆解，再建设企业私有化的大模型知识库。

案例三：面向企业私有化大模型的知识库应用

企业接入AIGC或大模型时，可以从哪些方面入手？可以分几期操作。第一期做AI机器人——无论ToB还是ToC企业都有问答需求。第一阶段上文本AI机器人，打造AIGC数字助手，结合生成式机器人。首先要改掉传统AI机器人的交互模式，以前召回的答案比较生硬，现在用大模型对答案进行改写，变得更拟人化。还能结合大模型的上下文推理能力做更进一步的服务，这就是AIGC的能力。接下来对接后面的知识库，打造AIGC和RAG场景做数字服务。结合现有能力，当发现Agent的苗头之后，优化工作流，打造更多综合应用平台。企业内部的OpenAI，可以完成用户申请、私有机器人搭建等。最后还可以扩展场景，优化Agent落地，打造训练平台和应用平台，扩展多个场景。

案例四：面向经销商的大模型知识门户应用

在汽车经销商销售场景里，智能辅助销售人员给客户做应答。比如在新能源车场景下，客户会问销售人员关于车辆的问题，比如续航、电池容量等。如果销售是个新手，就需要一些辅助信息，对上IG场景，完成本地知识召回，帮助答疑。

还有一个场景是，客户问到竞品的情况时——客户问自家车型和竞品之间的差异，4S店的服务人员可能也不太确定。这时就得做知识召回，得出答案。通过大模型交互，可以直接生成话术，而不只是拉一个表格。那种交互方式太慢，容易错失商机。

在试驾预约的Agent场景里，要完成试驾预约动作，必须先告诉大模型该客户的姓名、所在门店、所需车型、客户联系方式、试驾车型这五个要素。这些信息来源于三个工具：第一个是信息化系统，第二个是根据用户或营销人员话术的知识抽取，第三个是工单工具。信息收集完成后，要提交到工单，反馈说试驾工单已经预约好。整个场景里，Agent做推理和判断非常契合，能高效完成工作。

用户进来时先完成信息获取，老用户要获取相应标准信息，然后根据运营商的交互模式，发现客户的诉求。最后把信息归拢，提交到工单系统，完成试驾工单的预约。这是一个大模型结合Agent做得比较好的案例。

回过头来看，从企业面临知识构建的困难点出发，给企业打造统一的知识服务平台。结合这个平台，能孵化出各种消费场景——搜索、问答、营销等。有了大模型接入之后，可以进一步扩充：不管是知识构建阶段还是知识消费阶段，运营质量都会有所提升。在消费阶段，以前只能做搜索交互，现在可以变得更拟人、交互更顺畅。还能结合Agent，完成以前做不到或需要大量人工确认的过程，结合大模型做相应任务。