一、项目背景及目标

苏商银行成功应用大模型技术以提升远程银行客服中心的运营效率和服务质量。通过三大创新应用——客服知识库助手、话术推荐助手及质检助手，项目实现了机器人自助解决率的显著提高、在线客服并行会话能力的增强及服务质检的全面化和精准化。从而显著减少了客服团队的人力成本，提升了客户满意度和服务效率。

客服团队面临低效率和服务质量不一的问题，且传统客服模式已难以满足现代客户的需求。项目目标是打造“大模型客服助手”赋能远程银行客户服务业务。按照通话前、通话中、通话后的端到端业务流程闭环，形成事前知识库运营提效、事中副驾驶赋能、事后质检守护，助力客服工作模式和效率的全面升级。

二、创新点

1.客服知识库助手：传统的知识库在更新和管理上需要大量的人工投入。客服知识库助手利用大模型的自然语言理解、抽取和生成能力，实现了知识库的自动化和智能化管理，大幅度降低了人力成本和时间成本。

2.话术推荐助手：传统的客服系统往往需要客服人员根据经验选择合适的话术。话术推荐助手通过实时理解对话情境和向量化的知识库，利用检索增强生成技术（RAG），实时推荐合适的话术，大幅提升了客服的效率和服务质量。话术推荐助手还可以根据客户的历史交互和偏好，推荐个性化的话术，增强了客户服务的个性化程度，提升了客户满意度。

3.质检助手：传统的客服质检主要依赖人工抽查，工作量大且效率低。质检助手通过大模型提示词技术，实现了质检的自动化，大幅提高了质检的效率和准确性。传统的质检往往只关注客服的专业性，而忽视了情感交流的重要性。质检助手通过模型的情感分析能力，可以识别出客户和客服的情绪，提供更全面的质量评价。

三、项目技术方案

整体系统架构如下图所示：

大模型系统分为应用、平台和模型3层，主要系统的定位和功能介绍如下：

1.员工助手子系统

定位：该子系统旨在通过对话式的交互界面和多种工作场景插件，提升员工的日常工作效率。

功能：聊天机器人、知识库问答、客服标准问生成、客服相似问生成、电销话术提炼、电催话术提炼等。 

2.业务智能子系统 

定位：该子系统旨在为业务系统提供联机的智能化服务，从而提升业务系统的智能化水平。

功能：话术推荐、质检助手、电话销售对话机器人、电话催收对话机器人等。

3.检索增强生成（RAG）服务子系统 

定位：该子系统结合了向量检索和内容生成的能力，旨在为员工助手子系统和业务智能子系统提供配置化平台化的RAG能力。

功能：知识向量化、知识检索、结果生成等。

4.大模型服务子系统 

定位：提供基于大模型的多模态处理能力，以实现智能化的语言处理、数据分析、图像处理、视频处理。

功能：大模型调用、向量模型调用。

5.大模型管理子系统

定位：为各服务子系统提供管理和配置后台。

功能：知识库管理、反馈数据报表、提示词管理、大模型管理、向量模型管理、RAG服务管理等。

客服知识库助手业务流程如下图所示：

话术推荐助手业务流程如下图所示：

质检助手业务流程如下图所示：

四、项目过程管理

本项目采用敏捷开发方法来管理客服知识库助手、话术推荐助手及质检助手的开发。项目组由跨功能成员组成的敏捷团队，包括开发人员、测试人员、UI/UX设计师、产品经理和业务方代表等。团队成员需要具备快速响应变化的能力和高度的协作精神。

团队每天进行简短的站会，每位成员分享昨天完成的工作、今天的计划以及遇到的任何障碍。这有助于保持团队成员间的沟通，及时发现和解决问题。

使用行内DevOps平台（凌云）来跟踪进度和问题，确保所有团队成员和利益相关者都对项目的进展有清晰的可视性。定期更新任务板，显示当前迭代的状态和待处理的风险。

五、运营情况

目前，客服知识库助手、话术推荐助手以及质检助手已全面投入使用。客服知识库助手平均每周使用2次，每次可生成100条左右标准问和2000条相似问。话术推荐助手每天1000次左右调用。质检助手已100%覆盖客服和电销对话质检。

六、项目成效

项目实施后，知识库助手使得机器人自助解决率从50%提升至75%，话术推荐助手使并行会话数从6通提高至8通，质检准确率提升至70%。经济效益显著，节约了大量人力成本，社会效益方面提升了客户服务体验和满意度。

七、经验总结

1.数据与大模型技术结合：项目的成功实施依赖于大量历史服务数据的积累与整理，以及大模型技术的应用，使得知识库的覆盖和更新、话术的推荐以及服务质量的检查更加高效和精准。

2.用户体验优先：无论是内部客服团队还是最终的客户体验，本项目都将用户体验作为核心。通过持续的用户反馈收集和优化，确保了技术应用的实用性和便捷性，进一步提高了用户的接受度和满意度。

3.面临的挑战与对策：在话术推荐的实用性方面，初期遇到的挑战是坐席使用意愿不高。通过增强话术同步率、优化用户界面和提供定制化培训，有效提升了坐席的使用热情和话术的实用性。

本项目显示了大模型技术在提升客服中心服务效率和质量方面的巨大潜力。未来，随着技术的进一步发展和应用，期待在客户服务体验提升上实现更多创新和突破。