火山引擎智能客服运营专家：字节跳动大模型客服应用实践

大模型技术在过去两年确实跑得很快，在智能客服这个领域，火山引擎参与了不少实际项目。本届大会上，火山引擎智能客服运营专家袁建分享了字节跳动在大模型客服应用方面的实践，核心观点很明确——如今的智能客服确实需要好的大模型，但更关键的是好的运营。

回顾一下智能客服的发展史。2016年前后曾经掀起过一波热潮，我们称之为AI客服1.0时代。那个时候，媒体报道和实际案例都显示，智能客服发展速度确实惊人，但问题也随之而来——最近几年，它的表现只能说差强人意。

问题主要集中在几个方面：

首先是答非所问的情况不少，服务显得生硬刻板，遇上复杂一点的问题，基本就歇菜了。再看看服务表现，很多时候带着敷衍劲儿——比如机票退改签的智能客服，有时候根本就是商家用来回避消费者投诉维权的手段。用户情绪一上来，它也不懂得怎么安抚，人性化表达基本为零。还有一点，出于成本压力，人工客服的接入流程变得越来越繁琐。用户得突破重重障碍才能找到真人客服，这不仅严重消耗耐心和信任，反而拉低了客户解决率，放大了负面体验。可以说，传统智能客服非但成不了企业核心竞争力，反而成了拖后腿的存在。

那么，问题到底出在哪儿？其实跟它的实现原理和运营方式有直接关系。

传统智能客服的做法相对简单：运营人员需要提前预设好大量在业务中积累的问题，用户来了，把问题送进意图分类模型，匹配对应的答案。是A问题就匹配A答案，匹配不上怎么办？那就转人工吧。所以传统智能客服运营的核心动作无非三个：训练模型、加相似问、加答案。碰上双11这种业务知识频繁变动的情况，就得安排多位运营人员提前预设答案，做精细化运营。活动玩法、优惠券满减规则这些内容一变，配置效率就下来了。有限的知识库根本扛不住复杂多变的用户咨询，业务发展的需求自然也就跟不上。

如何通过大模型提升效果？

大模型在智能客服领域的优势确实很明显：知识覆盖面广，生成的文本话术自然流畅，知识更新也更灵活。市场需求正在推动智能客服变革，优质客服正在成为企业吸引用户的核心竞争力，这关乎企业发展的命脉。而大模型的出现，恰好给这个问题带来了本质上的改变。

AI客服已经正式进入2.0时代。尤其是依赖人工处理知识的环节发生了根本转变——运营人员的核心动作从原先的一对一意图识别训练，变成了编写文档。接下来要做的是提示词工程和效果评估，工作内容发生了很大变化。举个例子，巴黎奥运会期间的知识更新可能比双11更加临时、频繁。按照以前的套路，得去添加意图、加相似问答，有了大模型之后，只需要更新相关知识就能快速上线。

消费者对快速、准确解答问题的要求越来越高，希望获得更好的服务体验。但传统智能客服基于简单的知识识别，只能做单轮问答，服务生硬，话术缺乏人性化，对用户情绪的识别也不够友好。

依靠豆包大模型和RAG多轮对话，用户在提问时，系统会自动进行追问，提供多轮回复，确保问题能被正确理解和解答。基于上下文的深度理解，还能提供个性化答案，提升体验。另外，当用户出现情绪波动时，系统也能更敏锐地捕捉到，迅速启动情绪安抚机制，用同频共情的话术化解负面情绪，真正解决客户的问题。

大模型赋予了产品强大的知识储备和语言理解能力。相比传统模型，大模型的知识储备更广阔——从专业知识到行业最新动态，都能精准解答复杂问题，辅助客户做出决策。尤其是在知识实时更新机制上，能实时响应市场变化，确保信息的精准度。

在语言生成方面，自然流畅度明显提升，这对于运营提效的帮助也很大。传统模式梳理周期长，火山这边在这方面有了大幅缩短——业务办理时间可以压缩到10天以内，业务知识配置缩短到5天以内，通识类知识甚至只需要0.5天。目的很明确，就是要为企业注入高效动力，释放运营生产力。

不同场景适合的大模型方式也不一样。大模型是提升服务质量的核心环节，能根据用户意图优化回答策略，但也面临挑战——如果模型训练周期比较长，可能满足不了知识灵活多变的需求。所以纯大模型对接更适合3到6个月周期内的知识。第二种方式是基模加RAG，简单业务可以快速上线，整体可用率能到90%以上，但复杂场景还是不够用。第三种模式是基模加结构化提示词，应对复杂咨询场景的能力更强，可用率能达到70%以上，线上采纳率也相对更优。经过探索发现，基模加RAG或基模加结构化提示词的方式，才能真正突破局限。

经过半年多的积累，火山提炼了大模型应用的五要素：

第一是大模型的性能提升。有一个关键指标——原来生成一段完整对话可能需要十几秒，现在能做到5秒以内。第二是业务知识的加工，这对智能客服就像新鲜的血液，需要一套完整的机制确保知识及时更新。第三是上下文理解，要查看用户的过往信息、画像和历史会话记录。第四是AI辅助员工，这对坐席客服来说体感会比较明显。第五是安全，客服行业对安全性和话术严谨性的要求很高，传统模型会规避合规问题，现有模型不但能做拦截，还会修改不合理的答案。这五个要素缺一不可，共同推动了智能客服产品的持续升级。

再来看看服务导航。传统模式比较简单，但客服的操作成本高。用户咨询后，客服需要根据信息和问题描述，结合业务能力去判断、搜索、找答案，再发送给用户。后来发展出AI辅助人工的模式——系统自动生成主要信息，包括推荐答案，效率提升了约一倍，但说实话还远远满足不了现在客服绩效的要求。

所以火山把模式升级成了人工辅助AI。在这种模式下，用户进线后，从问题确认、档案搜索、输出到安抚，全程由AI完成，人工只在必要的时候介入。

质检方面也值得一提。传统模式通过关键词和规则定义质检扣分项，但只能抽检——假设今天有1000个对话，只能抽5%来检查。设定相对死板，准确率和召回率偏低，大部分会话覆盖不到。半年之前，大模型1.0质检通过提示词描述解决了全量质检的问题，也算解决了抽检不公平的争议，准确率能到90%以上，但新问题又冒出来了：当量上来之后，需要投入大量质检和培训人员处理问题，用户满意度和解决率并没有实质提升。

问题到底出在哪？还是要回归到用户体验的本质。传统质检交付模式是把大模型当作工具，用考核绩效、扣钱来惩罚客服，结果反而打击了工作积极性。为了不扣钱，客服把大量精力花在规避规则上。现在火山把大模型当作老师，对客服进行针对性引导，通过正向激励，鼓励客服把精力放在如何服务好客户上。

同样是应用大模型，但从限制客服变成启发客服，这才是真正提升服务积极性的方式。核心目标还是要把服务体感和服务质感提上去，这样才能从根本上提升满意度和解决率。

产品升级其实是一个水到渠成的过程。原理上还是基于大模型Prompt提示词工程，从用户视角去定义一次服务的好坏。同时用1到4分来区分服务质量，通过数据化运营去定义每次服务的质量，让服务运营人员看清质量分布状况。在业务维度，希望能够准确发现解决率低的场景并改善；在客服维度，及时察觉每一个客服的不足，做管理上的干预和调整。对于沉淀下来的解决率高的优秀案例，自动推送给客服；对于做得不够好的地方，也能及时改正。通过这种方式，希望能为客服行业实现自培一体提供好工具和好场景。

话说回来，如今的智能客服确实需要好的大模型，但更离不开好的运营。两者相辅相成，才能最大程度提升运营生产力。也期待更多客服人参与到AI客服的建设中，希望火山引擎能为各位商家和合作伙伴的服务质量提升带来实实在在的帮助。