概述

知识库是支撑机器人正常有效运行的核心物料库,机器人在运营前需要将来源于客户内部的产品、服务数据进行必要的优化整理并添加到知识库中,那创建的知识库则是机器人应答的有效数据来源,为用户提供问答服务和帮助。

那机器人调优的基础是清晰的了解当前机器人的使用状况,而使用状况,是通过观测以下六大关键指标体系来实现的.

客服机器人知识库创建

1.建设知识库首先是要创建知识点,即是知识规则包括问题和对应答案。

问题:是帮助机器人是理解用户可能会提到的问句,原则上添加的相似问句越多,机器人能学习的就越全面,也就能识别更多相类似的用户问题

答案:是机器人识别到用户的问题后要回复的知识点内容,可以是文本、超链接、菜单、转人工、图片、图文消息等不同类型的内容。

2.首先要创建结构清晰并且合理的分类,因为这是创建良好知识库的基础。点击“知识管理”→“知识库”→“管理分类”如图:

3.分类创建好之后,就需要添加知识规则了,如图点击:添加规则-选择分类-输入标准问题及相似问和答案,答案可以选择多类型【根据自己的需要去选择】如图:

4.同时也支持批量导入知识规则,点击向下的按钮-选择下载模板按照说明进行整理后-选择导入知识规则就可以了呢。【批量导入知识规则只支持文字类型规则】如图:

需要注意的点:

添加超链接的时候先要选择文字类型答案-点击图上的“链接符号”就可以了,同时支持给超链接自定义名称。

添加菜单、图片、图文消息类型答案时候需要先通过菜单管理、素材管理来创建后在从知识规则答案中引用,具体操作步骤参考网址:http://docs-ai.easemob.com/cs/build-kb-advance

机器人调优

数据指标调优

如何进行机器人调优?需要清晰的了解当前机器人的使用状况。而使用状况,是通过观测以下六大关键指标体系来实现的,以下做举例说明。

业务背景数据:消息量、会话量、

1. 首先,我们应该关注消息量和会话量。这主要用于了解该机器人的工作负荷。 在“数据管理”–>“基础统计”可以看到消息量和会话量,并可以按不同的时间维度进行查看(今天|昨天|本周|本月|上月|制定时间) 消息量:一定时期机器人收发信息的总量7451。

会话量:机器人应答问题的服务2571人

行业标准:不同业务的消息及会话量是不同,同时他们量的多少一定上也会受一些运营活动的影响。

消息量和会话量的变化趋势:同时,我们还应该关注消息量和会话量的变化趋势。以下图为例,可以很明显看到这个客户的会话量有明显的波峰特征,如图: 我们知道,做客服业务,最难处理的就是服务的波峰和波谷。以人为主的客服中心在人力资源能力上是没有太多弹性的。而机器人客服最大的价值之一恰恰是削峰填谷。

覆盖率、直接覆盖率

1.覆盖率 = (机器人应答消息总数 - 默认回复消息总数)/机器人应答消息总数,如图91.7%

2.直接覆盖率 = (机器人应答消息总数 - 默认回复消息总数 - 推荐答案回复消息总数)/机器人应答消息总数,如图85.02%

行业标准:通常来说,90%为较为优秀的指标【如图】,那当覆盖率达不到90%,是有较大优化空间的。通常来说,直接覆盖率应该比覆盖率低10%以内【如图】,反之就要去考虑是不是很多答案实际上是来自推荐答案,以避免出现看上去覆盖率还不错,其实都是来自推荐,这时候我们是有优化空间的。

数据分析方法论:同时,我们还应该关注覆盖率与直接覆盖率的变化趋势。机器人使用的比较好的客户的覆盖率和直接覆盖率都应该是稳步上升的。从下图可以看到,这个客户的覆盖率和直接覆盖率都是稳重略有上升的。但也有做的不好的时候。比如覆盖率和直接覆盖率有几个明显的波谷。这种覆盖率的波谷通常来说,都是因为没有针对突发事件(比如促销活动,产品突发事故,业务上没有)做对应的知识库建设,导致在突发事件期间覆盖率急剧下降。事件期过后,覆盖率又恢复到正常水平。【因为要做到同步:比如活动前提前做出知识库建设】 优化建议:

(1)建议将覆盖率优化到90%以上。

(2)建议将直接覆盖率优化到和覆盖率相差在10%以内。【比如覆盖率90%的时候,直接覆盖在80%以上】。当前直接覆盖率指标较差,会出现看似机器人能回答大部分问题,但大量回答是以推荐答案的方式给出,导致用户体验差,转人工高等情况发生。优化直接覆盖率,应该做为优化的重点。

(3)优化覆盖率的主要工具是:问答优化增强版。优化操作流程请见:http://docs-ai.easemob.com/cs/optimize

(4)优化直接覆盖率的主要工具是:意图澄清。优化操作流程请见:http://docs-ai.easemob.com/cs/optimize-suggest

转人工率

数据解析:

转人工率 = 转人工会话总数/机器人会话总数,目前转人工28.75%的指标是较优秀的。

业务转人工:客服机器人系统由于业务需求,部分知识规则的答案会配置为直接转人工。例如,如果用户咨询报价,业务部门可能希望这种咨询由真人销售进行人工转化。这种情况下,会将用户咨询报价的相关问答或意图的答案配置为转人工。

非业务转人工率:为了能够比较客观的进行不同企业转人工率的横向对比,把剔除业务转人工后的转人工率后称为非业务转人工率。 行业标准:在不同行业不同场景的转人工率是相差很大的,高于40%的转人工率是比较高的,当然有的行业情况比较特殊,这时候业务上的转人工导致转人工率高的我们就不需要去优化了

趋势分析:关注转人工率的趋势变化:上升或下降,是否有波谷出现:如果有波谷,为什么?通常机器人使用的比较好的转人工率应该是稳定或略有下降的,上图就是一个负面的例子,当前的转人工率趋势波峰波谷是很明显的,并且转人工率是在持续的攀升的。这可能是因为机器人交付上线后,机器人知识库疏于日常维护导致的。如果去观察这个客户的覆盖率和直接覆盖率,这2个指标应该也是在持续下降的。

(1)业务和非业务转人工率计算举例?

假如当前转人工率为70%,那结合图,我们来分析。当前系统配置了2种业务转人工:知识规则转人工,菜单转人工。

通过如图-转人工来源上分析得出: 业务转人工占到了53.1%【菜单+知识规则】,非业务需要转人工占到了46.9%【转人工指令】。

计算得出: 业务上的转人工:37.17%

非业务转人工率:32.83%

优化建议:

(1)非业务转人工率为32.83%,我们认为还是不错的指标。但由于业务特点,周末基本没有咨询,非周末的转人工率为82%是有非常大的提高空间的【如图】。

(2)良好的转人工率的基础是良好的覆盖率和直接覆盖率。首先应该把覆盖率和直接覆盖率优化到一个比较高的水准上。

(3)优化转人工率的主要工具是:转人工高频意图分析。优化操作流程请见:http://docs-ai.easemob.com/cs/report

(4)重点分析转人工量最大的和转人工率最高。

转人工高频意图分析

数据分析方法论:要重点关注2种类型的转人工意图:第一个是数量很大的转人工意图,优化这些转人工是见效最大的,第二个是转人工率特别高的,通常这类意图是意味机器对这个意图处理并不好。我们可以通过查看会话还原的详情来判断是什么问题导致转人工的来进行优化。

转人工最高意图:从上面的示例截图中可以看出很多有价值的信息。比如:转人工会话量最高的意图是“转人工客服”。该机器人客户允许用户可以通过输入“转人工指令”转人工。通过查看“转人工客服”的会话还原,我们可以看到,用户在发出“转人工指令”前,都问了机器人什么问题,为什么没有得到满意答复,导致最终转人工。

转人工率最高:“咨询课程”虽然不是转人工会话量最高的意图,但它是转人工比例最高的几个意图之一。按照前述重点关注转人工率特别高的转人工意图原则,我们重点关注一下这个意图。通过查看“咨询课程”的会话还原,我们发现,该机器人客户配置了一个菜单叫“怎样报名”,只要用户点了这个菜单,就会自动转人工。对这个机器人客户来说,用户咨询如何报名,意味着这是一个高价值的销售线索,所以一定要转给以销售转化成交为目标的人工坐席来处理。所以这个转人工意图,不需要优化

高频意图分析

是理解客户业务理解当前知识库的使用情况,这个不仅仅包含知识条目命中的,也包含未覆盖的知识。

1.我们可以查看知识库当前运营得情况

2.也可以补充未覆盖到的知识到知识库

准确率

准确率 = 机器人应答正确的消息总数/机器人应答消息总数

准确率无法自动计算,需要人工标注,计算成本高。准确率往往是项目上容易出问题的地方。比如覆盖率等指标看着不错,甚至转人工率指标也不错,但实际上不少问题回答错了,但知识运营方并不了解这个情况。 建议要定期进行准确率的标注

优化建议:(季度体检/年度体检)

标注方法: 根据“问题”列比较“答案”,对照内容是否相符,相符记为正确,反之则记为错误。最后将记录的数据进行计算来得到准确率。

准确率计算: (总标注量 – 标注错误量) / 总标注量 * 100% 一般范围:80%—85%

标注建议: 一般人工标注效率100条/小时即可。 注意,标注时除了要标注问答对是否准确,如果不准确,还应标注出正确的答案标签是什么。有些业务比较复杂的问题,较难确定正确答案,可以请业务专家来帮助确定正确答案纠正后的数据我们就要利用起来补进去知识库当

基础设置调优

基础信息调优:

还是强调要开启常用功能开关,如:寒暄库 这是专门针对场景的寒暄做的一个知识库,他并不是无意义的闲聊而是客服场景下的寒暄。(有的个别客户不开启寒暄库,同时又默认回复中设置有转人工,结果因为您好这样的寒暄交互,导致转人工量飙升,给咱们人工坐席带来了不必要的压力。)

默认回复调优:

*怎么实现访客在网页中打开机器人聊天窗口时,机器人可以自动发送给访客的欢迎信息,发送的这个信息又可以是什么类型,首先咱们把开关开启,通过点击加号来进行添加,咱们添加机器人欢迎语支持多类型的,如文字、菜单、图片、图文消息。这里可以根据业务需要来选择类型。建议:可以预设用户高频问题以菜单的形式来作为欢迎语。【菜单的答案也是支持多类型,之前咱们也讲到过】

*当访客问题没有从知识库中匹配到答案时,机器人是可以支持打圆场或者兜底回复的。如果默认回复功能不开启就会由机器人系统作兜底回复,如果开关开启将会从设置好的默认回复语中随机抽取一条来应答,默认回复语咱们也是支持文字、菜单、图片、图文多类型,同时可以配置转人工,值得注意的就是这个配置转人工是需要根据自己的业务去考量的。有个别客户直接在这里配置转人工,那么会造成只要没有匹配到知识库对应答案就会直接转人工,从而给客服坐席造成压力,如果实在业务需要这里转人工,我们也可以点击为所有默认回复添加 “转人工” 按钮,这时我们可以看到触发默认回复后多了一个转人工的按钮,当用户真正需要转人工的时候就会通过按钮来进行转人工,如果在之后发现转人工率指标特别高的时候,就要来思考这个地方的转人工设置是否要随时调整,不过这里建议如无特殊需要此处不要设置转人工,因为咱们可以利用多轮对话来过滤有意向访客再进行转人工,其他数据我们可以通过问答优化工具来作优化。

*如果当访客连续问了好几遍相同问题,也可以通过开启此功能来进行回复访客,也可以自定义设置重复回复语,同时支持当用户重复提问几次后可以通过转人工按钮进行转人工。如无特殊需要此处不设置转人工

敏感词管理:为什么要开启?因为只要有人交流就会有五毒,开启系统敏感词过滤可以更好的应答回复客户,提升对话有效性和降低干扰,来保护机器人或者客服人员不必要的干扰。 咱们机器人是可根据自己的需求去自定义敏感词词库