文生文，文生图，图生文，文生视频等基于大模型的产品如雨后春笋般涌现，成为业界瞩目的焦点。AI大模型在实际场景中的应用和商业化进程推进的十分迅速。在众多应用领域中，电商智能客服行业被广泛认为是一个理想的AIGC应用场景。

一、回顾智能问答技术经历的四个阶段

第一阶段：基于关键词匹配的「检索式机器人」；

第二阶段：运用一定模板，支持多个词匹配，并具有模糊查询能力；

第三阶段：在关键词匹配的基础上引入搜索技术，根据文本相关性进行排序；

第四阶段：以神经网络为基础，用深度学习理解用户意图。

二、传统电商智能客服解决方案的局限性

第四阶段的技术突破，在国内外跑出了多家NLP方向的明星企业，比如之前分享过的竹间智能。然而，在面对真实的接待场景时，依然面临挑战，机器人“智障”频现。

1. 上下文理解

传统智能客服缺乏对用户上下文的深度理解能力，系统难以跟踪、理解用户意图的变化，导致回答与用户的实际需求不符。系统使用预设的答案进行回答，通常无法根据用户的历史和偏好进行个性化的对话体验。

1. 多模态信息无法融合。

传统的智能客服系统通常只能处理文本信息，对于图像等其他形式的信息理解能力比较有限。但在实际的客服场景中，尤其是售后服务场景，经常需要综合利用多种类型的信息资源来进行决策分析。

1. 多信息系统融合

人工客服在解决用户问题时，一般需要在多个系统进行信息查询和操作。传统智能客服系统需要系统对接，来代码集成外部API来实现类人工客服的操作。

这个时候客服或者系统需要看消费者当前的套餐，还要看消费者每月的流量超用情况。

三、大模型带来的机遇

开源大模型开源日新月异：

从模型训练成本上看：

1. 训练成本下降

96×H100的GPU集群，花费2周时间、约8万美元搞定JetMoE-8B

10万美元训出Llama-2级大模型

2. 推理成本下降

Qwen1.5-MoE-A2.7B的训练成本比Qwen1.5-7B降低了75%，而推理速度则提升了1.74倍。

Qwen1.5-MoE: Matching 7B Model Performance with 1/3 Activated Parameters

从应用上看：

3. 上下文能准确应答

4. 图片理解能力日新月异

4. 工具调用能实现自主，语义化的API

写代码，执行代码

5. 大模型生成Plan，查询并给出结果

四、大模型带来的新的挑战

1. 基础模型升级很快，较之以前的模型有代际碾压优势，基础模型的训练投资有极大的不确定性。
2. 大模型的幻觉问题即使在RAG框架下，也无法彻底根治，而消费者咨询问题时，一没有纠正回答偏差的义务，二也缺乏专业知识判定答案的置信度。
3. 大模型在上下文应答中，被投毒，回答了不应该回答的，责任如何界定的。如在回答换货是否包邮时，根据店铺政策不包邮，消费者诱导大模型回答能包邮。

参考：

https://www.jiqizhixin.com/articles/2024-04-19