支持私有化部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


我,人工客服,专替AI背锅

发布日期:2025-07-10 14:08:57 浏览次数: 1556
作者:腾讯科技

微信搜一搜,关注“腾讯科技”

推荐语

AI客服的现状令人啼笑皆非:本该提升效率的技术,却让人工客服成了"背锅侠"。这场智能革命究竟走向何方?

核心内容:
1. AI客服在实际应用中的三大痛点
2. 人工客服被迫为AI错误买单的典型案例
3. 行业面临的成本与效率双重困境

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家


当ChatGPT等大模型技术横空出世时,客服行业曾被预言将迎来革命性变革。然而一年多时间过去,这场变革的进展却与人们的期待大相径庭。 

AI客服在实际应用中暴露出诸多问题:转人工客服困难、回复“驴唇不对马嘴”、绕圈回避问题.....AI客服激怒消费者的情况屡见不鲜。与此同时,人工客服成为AI客服的“背锅侠”,一边委屈一边四处给AI“擦屁股”。

这场被寄予厚望的"智能革命",并未带来预期中的降本增效,反而让整个行业陷入新的困境。


用户更加愤怒,商家成本不降反增,人工客服的工作量不减反增。

然而AI正在吞噬着人工客服补漏产生的数据飞速进化这场AI大规模取代人工客服的变革并非遥不可及的幻想,而是随时可能降临的现实。

当AI真正成熟的那一天到来时,今天的这些清洁工们将发现,他们投喂的每一份经验,都成了吞噬自己的养分;他们修补的每一个缺陷,都成了自己职业城墙的缺口。



替AI背锅的人工客服


用户:“啊?这么贵啊?”“那祝你们生意兴隆哈!”


AI客服:“感谢您对我们品牌的支持,请您尽快下单~”

用户:“你是听不懂人话吗?”

电商平台客服聊天对话框用户丢下差评匆匆下线,留下客服实习生白晓慌忙撤回了这条不合时宜的感谢语。用户的那句祝生意兴隆明显带着讽刺意味,安装费较高表达不满。


然而AI客服的情绪识别能力有限,无法分辨反讽与真心赞美,只是机械地根据祝福语关键词匹配出感恩话术不仅没有缓解矛盾,反而火上浇油。

2025年5月9日,白晓入职了一家为平台自营网店提供服务的第三方客服外包公司。尽管平台的AI客服号称集成了智能体和大语言模型,但在实际应用中仍频繁出现低级错误

当AI客服激怒用户后,接盘的人工客服往往成为无辜的出气筒。


按照设计流程,用户进入客服页面后首先由AI接待,遇到超出知识库范围的问题或检测到情绪化语言时,AI会主动提供转人工服务。但转接后,AI依然不会完全退场,而是在人工客服忙碌的间隙继续插入感谢抱歉等自动回复

前面这起闹剧正是源于AI客服见缝插针回复

人工客服吐槽AI

幸运的是,这些差评后来被小组长认定为“非客服责任”,没有影响她的绩效。第三方外包公司规模较小,组长和项目经理会审核差评的责任归属。而在某在线旅游大厂国际业务部门担任英语客服的田玥,就没这么幸运了。

田玥公司的AI客服系统声称接入了DeepSeek这样的大模型,但依然麻烦百出

有一次,伦敦希斯罗机场起火,用户想要改签,但是AI客服一直在答非所问,没有及时提供改签的按钮入口,用户心情自然机场一般火势熊熊

此时,系统监测到用户情绪不佳自动转人工,而对话界面左下角的评价按钮也随之从给AI评价变成给客服评价最后评价变成了不满意户很难注意到这个细微变化。

针对AI的差评往往落到人工客服头上,直接影响绩效评分和工资收入田玥感到实在荒谬。

田玥曾听说公司的AI客服团队会根据差评案例优化模型,于是通过反馈渠道投诉客服评价界面不清晰的问题,但问题至今没有得到解决。虽然有些团队会剔除这类差评,但田玥所在的团队并不排除,她推测可能是因为业务量太大,团队无暇分析差评的责任归属。

成都某智能体AI客服创业公司CEO徐客有电商背景,对当前客服机器人的局限性有深刻的感知。据他介绍,市面上许多平台虽然声称接入了先进大模型,但实际调用频率很低

当用户提问时,系统优先调用传统的意图识别或关键词匹配,在知识库中寻找预设的低成本固定答案。

只有在问答对知识库中检索不到答案时,才会调用大模型对未知问题进行补充回答。意图识别的计算成本极低,而每句都调用大模型会产生巨大算力消耗,平台这样做是出于降本增效的考虑。 

此外,平台首要保证的是系统的稳定性,哪怕传统AI回复是错的、机械的,也比不可预测的、可能“失控”的大模型回复要稳妥。这样的客服机器人缺乏真正理解对话上下文的能力,倾向于基于用户的上一句话去进行简单的问答匹配,这就会让AI客服陷入“关键词陷阱”和情绪误判。

尽管AI客服漏洞百出,白晓所在的公司仍要求人工客服接线时必须开启AI。为差评背锅的委屈还能被看见,但白晓接待每位用户都需要对AI的自动回复进行撤回和道歉,这让她平白增加了大量隐形的额外工作。 

AI客服通过识别关键词来判断用户需求,常常出现失误。比如用户询问“安装师傅的联系方式”,AI只识别到了“安装”,输出安装指南 ,却没有正面解决用户的问题,这时候白晓得一条条撤回,解释道歉,再做出新的回复。

另外,AI自动回复总是使用特定话术,但平台质检要求同类话术不得使用两次以上。这时白晓也要撤回AI的自动回复。AI发送速度很快,有时白晓超过2分钟无法撤回,只能向用户道歉。更荒谬的是,一般情况撤回后的道歉有两套统一话术,一串对话AI客服惹的麻烦往往超过两次,统一道歉话术很快用完,白晓只能重新组织语言道歉。

被激活的AI客服如同一架盘旋在白晓头顶嗡鸣的直升机,无孔不入地干扰着她的工作。




还没出现的赢家


急于上线的AI客服错漏百出,不仅没能减轻人工客服的工作负担,反而加重了情绪劳动。而那些期待通过AI客服来实现降本增效的商家,同样大失所望。

90后的潘艾在一家做鞋类的中小品牌的客服部担任管理层,她负责的店铺在国内电商主流的平台都已入驻,包括天猫、京东、得物、唯品会,还有抖音、快手、小红书等新媒体平台。

2024年年底,潘艾团队在平台AI客服之外尝试自己接入第三方智能体AI客服,试用期间,产品效果并没有达到潘艾的预期。因为AI客服不光没能节省人力成本,反而降低了产品转化率。

目前,AI客服存在两种主流的收费模式,传统的SaaS月费/年费制度,以及新兴的算力调用计费模式。前者通过开店数量、跨平台数量、客服席位的复合计费公式,使得很多小店的客服运营成本超过十万元对于来说相当于雇佣2位月薪5000元的人工客服的全年支出。

凭空两个人成本效果前文所述尴尬

什么AI客服才算物有所值呢潘艾总结出三个核心评估指标:满意度(AI需达到人工70%基准线)、转人工率(需压制在30%以下)、转化率(30%-40%的行业平均水平)。这些数字折射出管理者对AI客服的理想定位——营收情况尽量低成本完成人工客服工作

第二个问题AI客服并非是一个“买来即用”的系统,其后续伴随着高昂的维护成本。商品信息、店铺信息、优惠活动、问答话术、什么情况会转人工……让AI客服运转起来的一切信息都需要人工部署。

某电商平台AI客服设置后台

AI客服产品在使用前期缺乏训练数据,为求稳妥,潘艾自行设置的初始数据都更加偏向于官方回复,“亲,您好”、“在的,而AI也只会照搬。这样的回复过于的机械化,没有办法像人工客服那样根据具体的场景给出恰如其分的回复,为客户提供品牌的情绪价值。

虽然商家在推销产品时强调AI客服会越用越好,但这个过程需要人工大量投喂数据使用AI客服后,潘艾每天需要额外花费半小时,将前一天的差评或转人工较多的对话场景数据重新优化后输入系统。

关键是,这种模式对商家店铺规模有一定要求,规模较小的商家甚至个体户无法为AI提供充足的训练数据。 

系统无法从日常人工客服与用户的对话中自主学习,人工客服处理过的问题,下次遇到时机器人依然不会解答,除非有人手动将信息加入知识库。许多平台甚至出现了AI客服训练师位,但这笔额外的人力预算对中小商家来说难以承受 

第三个大问题AI无法在解决用户问题的同时有效控制损失

付林是一家做虚拟产品电商的客服。2025年5月下旬,在售前咨询中,付林明确向用户表达下单成功后不支持全额退款”;而在售后咨询中,平台AI客服却向用户回复可以退款”。随后,用户拿AI的回复作为证明向平台申诉全额退款

徐客解释,之所以AI如此反馈,是因为大模型天生具有“迎合”人类的倾向,容易滑向危险的“好好先生”模式

如果用户使用技巧引导,一个没有经过严格控制的AI客服很容易做出超出权限的承诺,比如随意降价、同意不合理的退款请求,给商家带来巨大损失。

事发之后,付林第一时间报告了店铺老板,并关闭了AI辅助。此后,应老板要求,客服每次上线,都需要检查平台AI辅助是否处于关闭状态——但有时候,它还会自动打开

三大问题使得目前市面上绝大部分AI客服陷入尴尬处境——在90%的时间里,它表现得像个机械的“复读机”;在剩下10%的时间里,又可能变成一个不可控的“危险品”

潘艾判断AI客服技术仍不成熟,停掉了试用。但为了满足平台考核,她日常还是会启用平台配置的AI客服考虑到效果问题希望能在客服流量高峰期开启AI,它可以在首问帮我们过滤掉大部分重复问题。

网络另一端,用户却常常对这一场场喧嚣一无所知用户的界面并没有用于区分人机的头像或名称显示,所能看到的只有一个对话气泡框,无法识别对方是人工还是AI。

肖英在一家主营中老年产品的网店做客服,某天深夜将系统交给AI客服托管。第二天早上查看聊天记录时,发现一位五十多岁的用户与AI争吵了一整夜用户似乎没有看出自己在跟机器人说话。然处理工作的不是自己,但肖英看到本应该属于自己接待的用户被AI耍得团团转,心中莫名生出了愧疚感。

而对于更大体量的消费者而言,上线就疯狂输出“转人工”已经成为心照不宣的默契。面对无法有效沟通的客服机器,消费者常常陷入“花费大量精力与AI客服拉锯,却依然没有解决问题”的局面。

很多人甚至开始怀念起人工客服斗智斗勇时代至少是个真的听得懂你在说什么的人

用户吐槽AI客服


上面一系列故事都在证明2024年这个智能体AI客服元年,是网店/平台、消费者和客服三方皆输的一年。

但故事并没结束商家在这一年中摸索出了自己对客服AI的需求和期待,开发者也积累了不少经验。AI车轮也还在向前滚动着



AI会真正取代人工客服吗?


今年年初,公司上线接入Deepseek的AI客服后,田玥曾经听到过人工客服要裁员的风声因为担心裁员风险,田玥和同事还经常跑去查看用户和AI的聊天记录,借此判断当下AI客服的专业能力。

半年过去,田玥所在的部门还没有人因为AI的加入而离开。不过田玥并没有盲目乐观,她判断,上半年部门的业务量增长,客服人力不足,所以还没有人因为AI被裁

后续事态如何,她自己心里也没谱。

到目前为止,潘艾也并没有因为AI客服的出现而裁员人工客服,AI更多作为工具辅助人工期待AI帮人工客服完成了一些比较低级的内容,那这样人工客服会有更多的精力和时间去完成一些更高级的任务,比如说更多思考用户到底需要什么,如何回答才能让用户转化率更高。

我们的客服一天的接待量大概600左右,其实是没有空间进行思考如何提升自己。如果AI帮助接待200个,省出来的时间就可以被人工用来更好地服务这些 AI 解决不了的400个用户了。

当然我们也不排除,随着AI客服技术的成熟,在今年9月份之后,我们可能会因为采购AI客服而优化掉一部分人工客服。但同时,潘艾表示,作为管理者,她希望那部分可能被优化掉的接待客服转向后台、申诉,甚至稍高阶的自检和培训师方向这些工种反而没有一线接待客服那样劳累,并且不太需要面对巨大的负面情绪。


图源视觉中国


“解放人工客服的低级劳动”客服做更高级工作想法暂时还是只能停留在希望层面因为社会巨兽转型技术迟缓

平台本身没有变化依然通过校企合作等方式“灵活用工”,享用着廉价劳动力。今年5月,大二的白晓和同专业学生一起,被学校统一安排到某头部电商平台做校企合作项目的实习,实习期持续3-5个月不等。

面对AI技术发展对客服行业产生的震动,学校并没有及时向白晓和同学们提供与时俱进的培训。来到实习岗位上,白晓所负责的工作只是为户答疑解惑和提供售后方案,但作为初级客服员,她的自主权限极低如果用户对于售后方案不认可,或者我们满足不了他的要求的话,案件就会升级,由二线客服接待。这和她最初对于工作的想象并不一样。

他们人力成本更是远低于AI学校原本允诺参与实习项目的同学可以拿到将近两千元每月的实习工资,实际上,实习工资发到白晓手里时只剩下600元。

每次上班,白晓将手机上交后走进一个大开间房,房间里一排排桌子整齐划一,桌子上摆满了电脑,而每一台电脑前面,坐着的都是自己同专业的同学。身处其中,白晓有时候会幻想自己是坐在小学的微机教室里上和同学们一起上信息课,但因为AI客服犯蠢而背锅被客户骂之类的事情会瞬间将她拉回现实。

空间中常有此起彼伏的交流声,这些十八九岁的青年,在遇到难以应对的局面时会交头接耳,互相询问怎么办,或是通过向彼此吐槽来平复情绪。

在忙碌的寥寥间隙,白晓会恍然以为自己在做一场巨大的cosplay,工作内容糟糕、薪资待遇不公正什么的不重要了,再坚持几个月,自己就可以退出这场闹剧,回到校园重新当个学生。关于未来,白晓不敢细想。自己会被AI取代吗?还是继续和AI一起混乱地工作下去?

徐客的智能体AI客服产品,根据用户反馈,经过几十次迭代后,已经在业内相对成熟。他表示,自己的产品自2025年开始在市场推广以来,已经收获了3000余位客户,而在这些使用该产品的公司中,人工客服的裁员比例达到了40%-50%。“目前还有很多商家在前段时间已经与别的第三方AI客服公司签署了动辄1-2年的购买协议,如果有更多商家甚至平台开始采用更加成熟的AI客服产品,人工客服的裁员率甚至可能在未来1-2年上升至80%以上。

当下,大语言模型的AI客服迎来了进入市场的第一个年头,好像没有太多人工客服因此被裁。但第二年情况会怎样,没有人说得清楚。

*文中人物均为化名

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询