ChengRang

9 月 1 日起,AI 客服说的话,企业都要负责

人人都能懂的科普 约 8 分钟阅读

一个不兑现的承诺

某视频 AI 平台的页面上挂着一个高级用户活动,价格看着合适。我是这个平台的老用户,拿不准自己能不能参加,下单之前先去问了售前 AI 客服。我打字问它,老用户能参加这个活动吗。它回得很快,答得很肯定,所有用户都能参加。

得到这句答复,我付了钱。

付款之后发现不对,承诺的优惠没有出现,再去看活动细则,白纸黑字写着,仅限新用户。我这样的存量用户参加不了,花出去的钱买到的权益,平台没打算兑现。回去找平台,得到的回复是活动资格以页面规则为准,智能客服回答仅供参考。

可这个 AI 客服是平台自己摆在售前入口的,用户因为它的答复付了钱,它说的话到底算不算数。如果 AI 客服的答复永远不作数,把它放在售前入口,是让用户咨询,还是让用户踩坑。

9 月 1 日起,有一部新标准管这事

一部新的国家标准开始实施,全称《顾客联络服务 人工与智能客户服务协同要求》,是我国第一个专门管人工客服和智能客服怎么配合的标准。它要解决的,就是上面这类事。

中消协的统计里,2026 年上半年售后服务投诉占全部投诉的 26.79%,其中人工接入困难和 AI 客服虚假承诺是消费者反映最突出的两个问题。售后投诉占了四分之一还多,AI 客服本来是用来提效的,现在反倒成了维权路上的堵点,这不是个别现象。

企业这边为什么离不开 AI 客服?一个真人客服月薪五千起步,加上社保、工位、培训,一年综合成本轻松过万。一套 AI 客服系统一年几万块,能顶几十个人的接待量。任何一家企业算完这笔账,都会把 AI 摆到前台。

标准先管的是转人工。入口必须清晰醒目,不得层层隐藏。用户明确要求人工服务、AI 多次应答无效、涉及人身财产安全,这三种情况系统应当自动转人工。切换的时候,聊天记录和订单信息要跟着走,不能让用户把问题再讲一遍。

另一件要管的是认账。智能客服的答复属于企业服务的组成部分,企业不能拿 AI 回答不代表公司立场、算法生成内容仅供参考这类说法推脱义务。同时,涉及价格、折扣、退款、赔偿、合同变更的事项,AI 可以解释规则、收集材料、生成工单,最终确认必须由人工客服或规范化流程完成。

这些就是这份标准的骨架:AI 可以干活,但不能拍板;企业可以省人力,但不能省责任。

不过这不等于 AI 说出口的每句话,企业都要照单全收。承诺能不能成立,要看用户有没有合理理由相信它。用户正常问出来、AI 主动答出来的,企业要认;用户明知道自己在编前提、靠绕圈子套出来的,企业可以不认。这条线划在哪,后面会讲到。

推荐性标准,凭什么让人忌惮

先解决一个很多人会有的疑问。GB/T 开头的标准是推荐性国家标准,没有直接罚则,不是强制性的法律。推荐性三个字一出来,是不是就等于白管?

不是。监管检查、服务质量评估、投诉处理,监管部门会参照这套流程来引导,不符合的企业可能被要求整改。纠纷一旦闹到法庭,这套人机协同的规定很可能成为认定谁对谁错的参考,但它是参考,不是判赔的法条,判决的依据还是消费者权益保护法、电子商务法这些硬法律。还有更根本的一层,电子商务法第五十九条、消费者权益保护法实施条例第四十四条本来就要求经营者建立便捷有效的投诉处理机制,企业靠复杂菜单、反复循环、故意延迟来实质性阻碍用户获得人工服务,本来就可能违法。这份标准把这些义务细化成了能对照的流程。

所以它的意义,不在新增罚则,而在把模糊地带划出可预期的线。

那 AI 客服到底为什么会乱承诺?它回答我的时候,知道活动只限新用户吗?

AI 为什么会乱承诺

先回答刚才那个问题:大概率不知道。

要理解这件事,得先知道 AI 客服是怎么工作的。它不是照着剧本念的机器,它是一个大语言模型,根据读到的材料生成回复。它回答你的时候,手里拿着什么?活动页面的宣传文案,常见问题的问答库,加上一些通用客服话术。活动细则里那句仅限新用户,属于动态业务规则,不一定在它读到的材料里。就算在,它也没有能力去校验你这个账号到底算不算新用户。

还有一种可能,规则就在它的知识库里,它没调取到,或者调到了没理解对。两种情况性质一样,都是 AI 在没掌握完整事实的情况下给出了答复。

它生成那句可以参加,只是组了一句听起来最像客服该说的话,系统里没有任何一个动作真的把你的资格放开。它不是故意撒谎,是它根本不知道有这个限制。这就是大模型的两个常见毛病,一个叫幻觉,编出了材料里没有的内容;一个叫越权,下了自己没有资格下的结论。

企业知不知道这个问题?知道,而且比用户更早知道。这也是过去几年客服行业一边大规模上 AI、一边挨骂的原因。以前有些企业的做法,让 AI 兜住一切,再把转人工的入口藏起来,用话术循环消耗用户的耐心,把投诉拖到用户自己放弃。这次标准要堵的,正是这个洞。

新规则下,企业得把以前含糊的东西一件件做实。权限边界要划清楚,AI 可以解释规则、收集材料、生成工单,涉及价格、退款、赔偿、资格确认这类动作,最终确认必须由人工或规范化流程完成,AI 可以跑腿,不能拍板。AI 生成的内容要有显著标识和风险提示,让用户知道自己在跟程序说话。人工兜底流程要建起来,用户明确要人工、AI 多次答非所问、涉及安全问题,系统自动把会话连人带记录一起转过去。还有全程留痕,AI 说了什么、系统做了什么、人工怎么处理的,每一步都查得到。

这几件事做下来,企业等于把以前甩给用户的成本,重新背回了自己身上。

那用户这一头呢?从企业的客服后台看过去,用户引导 AI 这件事早就不是新鲜事了。但引导的方式和很多人想的不一样,AI 客服不懂威胁,你打出不答应就投诉曝光,它不会感到压力,它没有这种社会直觉。真正能让 AI 松口的办法是绕圈子,把想要的答案一点一点喂进对话里。

举例来说。用户问,假如我符合条件呢,AI 会顺着这个假设往下答,把假设当成真事。用户说,我听说老用户也能参加,AI 没有能力验证这句话的真假,可能就顺着确认。用户再补一句,刚才人工客服说可以的,AI 会把这句编造的话当成对话里的既定事实。几个来回,AI 就在不知不觉中说出了用户想要的承诺。

这不是用户使坏,也不是 AI 蠢,是 AI 客服这个产品形态的固有弱点。它把对话里出现的所有信息都当成上下文来处理,用户说的话和系统里的规则,在它眼里都是文字,分不清哪些是事实、哪些是编造。它连自己属于哪家公司、政策边界在哪里,都未必清楚。

企业防这种引导,靠的是标准里那几条具体的技术动作:用户的话不能覆盖系统规则,AI 只能访问被授权的信息,涉及承诺和资格的话必须过一道校验,校验不过就转人工。

但要分清,企业防的是有人往对话里塞假信息,不是防用户的正当诉求。用户基于 AI 的答复做了决定,哪怕这话是被问出来的,只要 AI 摆在官方入口、有权限、又没做风险提示,合理信赖依然成立。

回到消费者这一头

看完企业,再回到用户。真遇到 AI 客服乱承诺、转人工又难的情况,能做的事其实不多。

要求转人工是标准给的硬权利,用户明确要人工,系统必须流转,不用跟它耗。证据要自己留,AI 承诺的对话截图、转人工失败的记录、订单信息,都存下来,录屏和聊天记录在纠纷里是实打实的东西。投诉渠道也得知道,正当诉求走 12315 或者平台投诉,投诉的时候把证据摆出来。12315 调解会直接引用这份国标,要求企业整改、退款或者补偿,这是最常用的路。真要走到诉讼那一步,法官看的还是两件事,你的信赖合不合理,企业有没有尽到管控、收口、风险提示的义务,国标在这时是法官手里的尺子,判决还是靠消保法、电商法来下。

也说一句实在话。别指望靠绕圈子让 AI 松口占便宜,收口机制就是防这个的,绕出来的承诺未必站得住,这就是前面说的那条线。想解决问题,走正路最有效。

结尾

回到开头那个不兑现的承诺。以后再遇到 AI 客服答应的事,企业不能一句仅供参考就打发了,用户也不能指望靠话术让 AI 说出超出权限的话。AI 答应的事算不算数,过去说不清,现在有一套能走程序的规则管着了。用户手里有转人工的权利和证据,企业手里有收口的闸门,两边都站在同一条规则下面。

← 返回目录