鲸品堂｜浅谈大模型生成类应用的需求分析设计与实践

在人工智能技术飞速发展的今天，基于大模型的生成类应用已经成为业界关注的焦点。这类应用不仅能帮助企业提升生产效率，还能为用户提供更加个性化和智能化的服务体验。不过，从“AI能不能用”到“怎么才能用好”，中间隔着一道不浅的沟。本文将从实际落地的视角出发，聊一聊生成类应用在通信行业的机会，以及我们在探索过程中积累的一些经验和思考。

生成类应用在通信行业的价值与机会

生成式大模型正在让通信运营商在多个维度上切实受益。不管是运营层面的提效，还是成本端的压缩，又或是服务质量的改善和创新能力的释放，都有不小的想象空间。

提升运营效率

生成类应用可以帮助通信企业自动化处理大量日常重复性工作。比如客户服务对话、故障诊断、修复指南生成等场景，原本需要人工大量投入的时间和精力，现在有了被AI替代的可能——而这正是提升运营效率的直接体现。

降低成本

自动化处理重复性任务，最直观的收益就是人力资源成本的下降。与此同时，通过优化网络资源配置和运维管理，各类末端成本也能得到有效压缩。可以说，降本增效不是空话，而是有技术手段支撑的实打实的结果。

改善服务质量

服务质量的提升往往藏在细节里。自动生成高质量的文档、技术指南、用户手册，能有效减少人工错误，确保信息的一致性和准确性。一致性高了，客户自然觉得“靠谱”，满意度也就跟着上去了。

增强创新能力

利用生成式AI技术，通信企业可以开发出更多创新的产品和服务，比如基于AI的虚拟助手、智能客服系统等。这些能力最终指向的是为用户提供更个性化和智能化的体验——这也是市场越来越要求的东西。

在这些生成类场景中，通信运营商对售前方案支撑的需求量最大、一线诉求也最强。但这里面存在几个公认的困难：

• 售前方案主要靠一线解决方案经理人工拼装，效率低不说，还容易出错。
• 一线方案经理经验参差不齐，方案质量难以保证，直接影响品牌形象。
• 客户需求变化频繁，方案经常要反复修改，生成周期拉长，客户满意度自然下滑。

引入生成式大模型，高效高质量地完成售前方案生成，并以此重构生产运营前后端的流程，已经成为运营商数智赋能破局的重要突破口。

生成类应用的探索和落地

面对众多售前方案场景，如何聚焦业务量大、有特色的方向？如何有效喂投专业业务知识？如何标准化知识文档结构？又如何与现有业务系统无缝对接？这些都不是简单的问题。我们的策略是“逐层拆解，逐个击破”。从核心业务聚焦、方案论证、原型交互设计到知识标准化梳理，最终逐步形成生成类大模型应用的产品形态。

场景聚焦：以点为面，聚焦小微组网方案生成

售前方案涉及的行业很多，金融、卫健、农业、教育……业务跨度广，如果全部梳理一遍，落地周期很长，效果也难以保证。我们最终的策略是聚焦一线最紧迫、业务最典型、访问量最大的场景——小微企业的组网和视频监控的售前方案生成，以此为切入点，打造领域方案撰写的样板点，以点带面，为后续多行业售前方案的智能生成打好基础。

一线关键问题：

• 小微客户个性需求多，往往需要针对性编写方案，周期长。
• 组网监控业务复杂，需要的专业知识和经验比较多。
• 已有方案难以复用，需要人工对方案库进行检索。

方案论证：谋定而后动，制定整体设计方案

场景敲定之后，我们梳理了小微组网方案生成的用户故事，明确了解决方案经理的操作流程。业务规则训练、设备清单库对接、高中低报价体系、方案生成、云链业务流程对接——这些关键环节逐一被纳入设计方案。

根据业务流程，确定了整体方案的智能化目标，同时制定了小微组网方案生成的技术方案：事前构建高质量数据集，事中重点设计智能高效的交互体验，事后形成闭环的知识评估及更新方案。三管齐下，才能形成完整的闭环。

知识梳理：构建高质量数据集，定义文档标准化格式

通过文档识别、文档处理、索引构建、知识检索四大步骤，构建高质量数据集。这是保障售前方案高质量生成的基础设施。

Word、Excel、PDF等格式的文档是业务知识最常见的载体。操作手册、产品白皮书、设备安装手册等都可以作为知识的输入来源。通过文档格式处理技术，高效识别关键元素，保持文档的层次结构；通过文档多模型内容处理技术，确保文本、图片、表格等多类型信息的还原度。在此基础上，应用语义索引和实体索引两种策略构建索引方案，再结合语义检索、关键字检索、实体检索等组合方式，形成知识库整体建设的完整方案。

依托业务知识的规则化和章节内容的标准化，最终形成高质量的小微组网知识数据集，并依据知识集及典型方案，定义生成文档的标准化格式。

业务知识规则化

通过一线调研，结合典型售前方案，确定小微组网知识分为网络类和安全安防类两大类。每一类又有细分场景，每个细分场景对应不同商品，每个商品又有详细的业务规则。小微组网业务知识的梳理，本质就是将这些商品在细分场景下的规则逐一细化，最终形成可管理的知识规则体系。

章节内容标准化

一线解决方案人员编写小微组网方案时，内容和格式五花八门，质量难以保证。因此我们对方案内容的章节进行了统一定义。首先分析典型方案内容，抽取共性章节，最终确认标准方案章节定义为：需求描述、方案描述、方案报价。报价部分更是“重灾区”——格式千差万别，隐患不少。根据一线报价需求并参考报价系统，形成了标准报价方案，包括标品套餐、集成服务清单和项目总计等内容。

交互设计：智能高效的交互体验，提升一线感知

交互体验直接影响售案生成的质量和一线使用者的感知。我们通过业务参数固化、会话管理、提词工程、RAG检索增强生成四种交互技术，让交互质量与交互感知达到一个最佳平衡。

业务参数固化

标准化模板：通过预先设定的参数模板，确保售前方案的标准化，提高一致性和质量。
快速变更：固化参数允许快速调整配置方案的基础框架，加快方案生成速度。
减少交互次数：标准参数不用来回对话沟通，需求收集的效率明显提高。

会话管理

会话管理是为了有效且准确地将对话之前蕴含的信息提取出来而引入的模块。它能智能分割用户会话内容，管理过往对话中的场景信息和意图信息，并传入大模型底座，从而生成连贯、个性化的回复。同时引入个人用户token，在每次对话中传递会话令牌，将不同用户的输入与之前的对话上下文关联起来，产生与特定用户和对话相关的回应。

提词工程

提词工程在大模型与复杂业务结合的环节中扮演着重要角色。我们建立了提示词模板库，针对不同场景设计特定模板。这样做的好处很直接：
- 提高用户体验：精心设计的提示词能帮助解决方案经理更好地理解和操作界面，减少错误操作。
- 引导用户行为：可以指导解决方案经理完成特定任务流程，比如填写组网标准参数模板。
- 减少用户输入负担：智能提词可以预测输入意图，自动完成部分输入，减轻手动工作量。
- 提供即时反馈：可以即时确认操作是否成功，或者指出可能存在的问题。

高效RAG检索增强生成

RAG检索增强技术确保交互返回的答案是精准有效的。通过引入ES，对文档内容关键字进行检索，同时对向量库进行相似召回；对召回的内容进行rerank排序，提升文档检索结果的准确性；再对问题进行重写和二阶段检索，最终由LLM推理归纳输出最佳答案。这套组合拳下来，效果还是相当稳健的。

运营管理：业务知识长效评估及更新

组网的业务规则会随着市场变化和新产品入网而不断调整。通过一线用户评价反馈和提词优化反馈，实现业务知识质量评估及长效更新，才能满足不断变化的市场需求。

一线用户评价：由一线人员在对话过程中进行满意度评价，包括对方案知识的“点赞”或“点踩”，从而触发劣质知识的下架和精确知识的更新。

提示词优化收集：管理抽取知识的提示词内容、相似度、向量阈值、TOPK等相关信息，并对检索和输出的内容进行规范说明。这样一来，大模型对知识检索的准确率和抽象整理能力就能持续得到提升。

生成类应用场景扩展思考

大模型带来的能力突破，让AI与生产力紧密结合，企业内部的数据价值正在加速释放。可以预见的是，大模型将进一步与业务深度融合，成为整个业务流程的核心驱动，接入更多方案生成场景。与此同时，结合AR/VR技术，生成式AI有望输出更加直观、易懂的方案形态。至于未来到底会怎么走，唯一能确定的是——保持敏锐，持续迭代。风口从不等人，但做好准备的人，总能抓住它。