在智能客服领域，大模型技术正成为一股不可忽视的力量。云蝠智能的CEO魏佳星向我们透露，客户现在对大模型技术的关注程度日益增加，如果没有这项技术，他们甚至不愿意继续交流。行业普遍认为，智能客服是大模型技术应用的前沿阵地之一。大模型技术能够更精准地理解用户的问题，生成符合需求的回复，甚至能够预测用户行为，提供个性化推荐，从而显著提升客服的效率和质量，同时为企业节省了大量的人力和时间成本。
IDC中国的研究经理程荫指出，在智能客服领域，企业投资大模型的主要目的是替代人工，而非仅仅作为辅助。相比之下，其他许多领域由于大模型只能辅助人工，且ROI（投资回报率）难以测算，因此落地成熟度并不高。
技术的迅猛发展和大模型推理成本的大幅下降，为大模型技术在智能客服领域的应用提供了强有力的推动。魏佳星提到，去年年初ChatGPT的调用成本还相对较高，而如今已经大幅降低，使得商业应用的步伐明显加快。目前，这种技术升级和成本下降的趋势仍在持续。
在这一热潮的推动下，市场上出现了两种应用路径：一方面，传统的智能客服企业正在积极整合大模型技术；另一方面，大模型企业也在迅速进入智能客服领域。
尽管如此，大模型智能客服仍处于发展的初级阶段，需要解决一系列挑战，例如文本客服如何避免幻觉问题，以及语音客服面临的时延和拟人度挑战。一些企业正在采取渐进策略，在要求不高的场景中率先实现产品的落地。
智能客服的智能化进程正在加速，不再是过去那种简单的自动化工具。魏佳星凭借七年的市场经验，见证了大模型技术的快速演进，以及智能客服领域与大模型技术相关的商机和需求的增长。市场需求的旺盛，从央国企的大模型招投标数据中也可见一斑。
一家央企的相关人士表示，他们正在为旗下的超级应用寻找大模型智能客服的合作供应商，预计项目规模将达到千万元级别。他们已经考察了市面上包括阿里、讯飞等多个厂商的智能客服产品能力，目前正在进行产品选型。
IDC的报告数据显示，市场空间正在迅速扩大。2023年智能客服解决方案的整体市场规模达到了30.8亿人民币，比2022年增长了近36.9%。业界观察到，这一增长与过去两年大模型技术的快速进步密切相关，这些进步显著提升了智能客服的能力。
大模型技术不仅改善了直接与用户沟通的语音机器人和文本机器人的体验，还在智能质检和分析等场景中发挥了作用。程荫告诉我们，除了传统的智能客服场景外，与客服强相关的其他领域，如营销、培训、运营、决策等，对大模型智能客服的需求也在增加。
魏佳星观察到，技术的进步使得语音机器人能够解锁一些原来无法实现的场景，例如云蝠智能正在开拓基于大模型的智能体进行电话面试业务。这个新场景对机器人的理解能力和语言表达的自然程度提出了更高的要求，服务的报价也相比传统场景有了显著提升。
智能客服与大模型的快速结合，与模型调用成本的快速下降密切相关。去年年初，GPT3.5的接口调用成本还相对较高，而现在，语音机器人单次调用大模型接口的成本已经大幅下降。
尽管如此，智能客服领域仍面临一些挑战，如与原有系统的耦合、理解能力有限、缺乏上下文感知、交互性和灵活性不足、个性化服务不足等问题，需要根据具体场景持续训练和调优，投入数据和算力资源。
一位企服行业的资深人士感慨，尽管技术取得了突破，但行业仍需解决许多问题，如真实沟通场景的幻觉控制，新技术融入企业业务流程的改造和管理成本等。
在语音场景中，大模型驱动的智能体面临的挑战包括语音的拟人度不足，以及电话场景对时延的高要求，使得幻觉问题难以解决。一些大型项目还涉及到后续建设和运维的高成本。
一位智能客服行业的资深人士提到，除了技术层面的限制，一些场景并不鼓励完全“去人化”的客服。AI可能在解语文题和数学题上有所提升，但在客服场景中，很多是客诉，可能涉及法律、心理和社会问题，用户更倾向于与真人通话。
基于大模型升级产品的一大特性是，基础模型能力的跃升会带来产品性能和体验的提升。但在更强大的模型到来之前，技术服务商需要找到产品化、商业化的合适节奏。
魏佳星提到，他们的策略是在时延和拟人度问题没有理想解决方案前，先在对这些指标要求较低的业务场景中使用大模型技术。例如，400电话可以接受时延问题，也可以接受拟人度不足，听起来像机器人，现在这些场景中已经在使用。
一家服务汽配行业的软件服务商使用智能体来服务车厂及终端车主的特殊车型维修零配件报价，目前有80%的客服询价由智能体完成。
针对智能体可能出现的幻觉等不可控因素，他们也采取了智能体加上真人监管结合的服务模式，以更好地服务客户。“询报价智能体在客户群里沟通，但这个群里还是有销售在做一些监管的动作”，该服务商表示。
容联云产业数字云VP孔淼提到，针对大模型全面替代带来的算力成本及幻觉等问题，可以先用大模型解决局部问题。“比如用它解决前端的泛化问题，转化成具体的任务后，再用高效的小模型来解决，采取大小模型结合的策略。”孔淼在几个月前的一场产业论坛中提到。
正如IDC所说，大模型赋能的智能客服发展还在初始阶段，商业化仍有待推进。不过，一些企业也看到了当下市场偏好的一些特征，并尝试找到一些商业化的策略。
魏佳星发现，许多企业虽然对大模型功能有认知，但相比大模型原生的智能体产品，他们更偏好上一代的具备可解释性的产品，“短期里大模型是一个销售型功能”。
而大模型原生的Agent类型产品的探索价值在于，一方面这是未来的发展方向，另一方面，它可以解耦出一部分能力，用于升级上一代产品，从而提升用户体验和留存，最终实现间接的商业转化。
以电话面试场景为例，这里面可能涉及到N个智能体协同工作。比如第一个AI对非结构化简历进行读取，让简历变成标准的小字段便于其后的AI阅读。第二个AI要调取GPT级别的最高级模型，教打电话的AI去训练它的缓存体系。第三个AI负责打电话，发起呼叫。第四个AI把通话记录抽取成标准的结论。
这个过程里四个AI能力可以被解耦，其中的一部分技术方案赋能给上一代产品，“目前商业化收入里很多来自技术方案复用给上一代之后带来的收入增长。”魏佳星说。
当下，无论是AI传统客服企业带着场景接入大模型能力，还是大模型企业带着锤子进入智能客服赛道，这一领域的热度正在提升。
“以云服务为代表的平台级公司在底层大模型、新一代智能客服产品上有研发优势，且有的云厂商旗下有一部分业务和客服强相关。它们有一定的品牌知名度和用户基数，需要加强的是中小企业的定制化服务。而较早进入市场的传统客服企业也有市场认知度，积攒了一定量客户，这些企业需要加强的则是大模型技术底层研发能力。”IDC程荫说。
一位AI客服领域的创业企业则认为，它们和巨头在定价能力及服务能力上有差异，小公司有灵活性，而大厂由于人力成本，涉及到交付团队后它很难服务报价低于五十万元的项目。
不管怎么样，竞争正变得激烈起来。不过市场也并非存量竞争。
上个月初，OpenAI的GPT-4o Realtime API公开测试版上线，魏佳星马上在内部推进基于这一接口开发新一代智能客服产品。
对语音场景的智能客服而言，这是一次重要的模型能力升级，它能大大解决语音机器人的时延问题。之前的模型要将语音转文本和文本转语音功能拼接在一起，而Realtime API是端到端模型，在语音交互时，表现会更自然。
这也是大模型赋能的智能客服产品的一大利好，长期来看，技术的进步和成本的下降，将会给产品带来质的突破，而新的市场空间也将进一步打开。
