一、项目背景及目标

近两年，以ChatGPT为代表的大模型带来了全球AI产业新变更，AI全球竞争加剧。金融行业具备大规模数据资源和多元化应用场景，是大模型应用的最优行业之一。2024年政府工作报告提出，深化大数据、人工智能等研发应用，开展“人工智能+”行动，打造具有国际竞争力的数字产业集群。人民银行发布《金融科技发展规划2022-2025》抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用。着力打造场景感知、人机协同、跨界融合的智慧金融新业态。

北京银行以建设AIB——人工智能驱动的商业银行为目标，秉持“一个银行、一体数据、一体平台”的理念，聚焦人工智能技术的创新应用，积极构建金融智能生态。建设以知识驱动的“大模型”应用体系，通过“大模型”+“小模型”双轮驱动，形成人工智能的中台能力，助力运营、拓客营销、产品创新、客户服务、风险管理等业务领域，为高质量发展注入新动能。

二、项目/策略方案

北京银行金融人工智能应用平台综合运用预训练大模型、Agent技术、大数据分布式、容器云、微服务、深度学习框架、多模态交互等技术，整合行内外金融业务领域知识，集成12种开源大模型和50多项AI智能服务，支持国产算力和框架，打造六大工具，涉及智能投顾、运营、客服等领域，赋能一线应用。

从平台技术架构上说，自底向上包括算力层、数据层、框架层、模型层和应用层。

算力层，采用容器化技术，实现NPU国产算力与GPU算力的统一纳管和资源调度。

数据层，整合行内外数据，支持API接口、向量数据库、图数据库、关系型数据库多种数据获取和存储方式。

框架层，集成Pytorch、MindSpore、Paddle等主流框架，支持进行大模型、小模型的微调、推理等。

模型层，支持多种行业主流基础大模型部署应用，可根据具体的金融场景和任务，对模型进行精调。

应用层，基于Agent能力，快速对接业务场景和应用系统，提供大模型应用服务。

图：平台技术架构图

（1）利用国产算力进行模型微调和推理，提升大模型的场景适配能力

推进大模型应用于金融业务的过程中，关键技术路径之一是对ChatGLM这样的大型语言模型进行深度定制和优化。依托国产算力平台对模型的微调工作，既保证了数据安全性，又体现了对国产技术实力的信任与支持。

在微调阶段，利用行内知识库作为训练素材，对L0基座模型进行有针对性的训练升级。不同于传统的模型参数整体优化方式，我行采用线性残差调整（LoRA）微调技术，对少量权重进行局部调整，在不改变原有模型通用性的同时，强化其对金融场景的适应能力。

（2）建立智算网络，满足分支行低时延、高并发的智能应用需求

以京智大脑为中心节点，信用卡中心、各分行为智算节点，以AI+物联网+边缘计算技术，构建全行智能边缘计算网络，将总行智能中台服务能力开放至各经营单位、网点，实现算法一键推送至边缘节点，提高AI算力的使用效率。

（3）利用知识图谱和搜索增强技术，提升大模型的可解释性

为解决大模型生成式内容在银行业务场景应用过程中可解释性问题，依托向量库、知识图谱、分布式大数据构筑北京银行金融价值矩阵，逐步形成覆盖业务营销、操作指引、资产配置、合规安全、财务分析全场景的金融知识图谱。金融人工智能应用平台通过对接外部“闻海”大数据库，实现对新闻媒体数据的实时问答能力。

图：检索增强技术路线图

（4）集成行内应用插件，打造可执行的大模型对话机器人

为推动大模型与银行业务场景的深入融合，利用意图识别、语义检索、提示工程等技术，自主开发大模型插件框架，以对话交互的方式，提供文案编写、代码生成、知识问答等基础功能，以及RPA任务执行、企业信息查询、系统调用等扩展功能。

（5）基于大模型应用平台，建设AI Agent能力

基于大模型平台的流程编排能力，深度整合插件调用、文件解析、知识库录入、大模型等多项服务，开发流程化、智能化的AI Agent能力。基于主流开源大模型技术，实现Agent的自主思考和行动能力。将Agent与知识相连接，同时发展Agent各种技能，理解用户意图、进行任务规划、任务分解，完成各种各样的业务任务。集成BGE、multilingual-e5-large等多个向量化模型，可自主构建业务知识库。将业务数据进行沉淀，实现Agent感知和理解的功能。

图：Agent技术流程

（6）开发模型市场，建设开放多元的大模型生态系统

建立大模型应用市场，纳入ChatGLM、通义千问、雅意、百川大模型等多个前沿且功能各异的预训练模型，旨在打造一个开放且多元化的北京银行AI服务生态系统。用户可以根据自身需求灵活选择适合的模型进行交互与应用开发，比如在文本生成、智能问答、自动摘要、创意写作、代码编写、智能客服等领域寻找最匹配的服务模型。

三、创新点

（1）基于国产算力和框架，构建L1行业大模型构建和L2场景任务模型

利用国产算力和框架，针对银行业务特性对大模型如ChatGLM、雅意大模型进行了微调。通过锁定预训练模型的部分参数，加入专门针对行内积累的金融知识库训练得到的旁路矩阵，使模型在保留原有通用能力的同时，增强了在处理金融场景问题时的泛化能力和专业适应性，确保生成内容更符合银行业务实际需要，有效服务于复杂业务场景。

（2）建立智算网络，满足分支行低时延、高并发的智能应用需求

以京智大脑为中心节点，信用卡中心、各分行为智算节点，以AI+物联网+边缘计算技术，构建全行智能边缘计算网络，将总行智能中台服务能力开放至各经营单位、网点，实现算法一键推送至边缘节点，满足经营单位低延迟、高并发的AI应用需求，实现云、边、端协同，通过算力资源合理配置和调度，提高AI算力的使用效率。

（3）建立大模型驱动的Agent智能应用能力，实现大模型能力快速对接

自主研发大模型驱动的Agent智能体应用能力，提供流程编排、插件开发、Agent部署等全方位功能支持，Agent具备语义理解、任务规划、插件调用等能力，可支持智能问答、知识检索、数据分析、任务执行等业务场景应用，Agent技术是一种能够实现环境感知、决策制定和执行动作的智能实体。其核心驱动力在于大模型，但除此之外，还增加了规划、记忆和工具使用等关键组件，这使得Agent能够不仅理解并响应环境，还能根据目标进行独立思考并采取行动，通过可组装的能力实现人机协同，从而提升业务价值。

图：AI agent流程图

（4）采用向量数据库、知识图谱等技术，建立多元化金融知识库

项目采用多种数据库技术，从营销策略、操作规范、监管政策到内部审计的多个关键银行业务环节，形成了一套全面、立体的金融知识图谱体系，确保所有业务决策和内容生成都有扎实的数据基础。与我行各个业务系统数据打通，以我行数据为底座，建设我行专属的大模型生态，真正做到服务一线、服务业务。

（5）自研数据查询和搜索引擎，提升金融应用的准确性

项目设计了融合正排索引和倒排索引的搜索引擎，能够迅速准确地定位并提取大模型所需的精确金融知识点，保证模型生成内容基于最新、最权威的数据，提高了内容的专业性和可信度。同时，系统自动引用知识来源，增强了生成内容的透明度和可追溯性。另外，项目自研Text2SQL算法，并构建指标知识领域的专家模型，让LLM连接指标知识库，解耦底层数据仓库复杂数据结构。让LLM更精准理解数据的同时，避免“AI幻觉”捏造字段、虚构取数口径，一本正经乱造SOL等现象。

四、项目过程管理

北京银行于2023年8月组建数字化转型12号敏捷工程项目，总行十余个开始部门开展集中封闭研发工作，仅用一个月完成平台设计工作，并于2023年9月完成基于大语言模型驱动Agent技术的金融人工智能应用平台投产。2024年9月，实现涉及总行、分行以及分支机构三项专区共24个分区全部投产，持续赋能银行业务线条，成为银行转型发展的重要引擎。

五、运营情况

目前，基于大语言模型驱动Agent技术的金融人工智能应用平台已面向全行20000多名员工开放，推出北银投顾、财报助手、智能客服、京客图谱、运营助手、数币银行、京行研究首批7款智能应用，让员工能随时随地使用智能化工具，快速掌握岗位所需知识和技能，将专家能力赋能至每一位员工，全面提升业务专业化水平。

北银投顾机器人服务理财经理近1700人，汇集了丰富的金融市场资讯、产品信息资源以及专业的投顾策略,可以根据客户的投资偏好和目标，量身定制个性化的投资策略。

运营助手机器人服务综合柜员近3000人，覆盖外部监管政策、行内发文制度以及各类业务操作指南，为柜员提供操作指引。

京客图谱和数币银行机器人服务客户经理3700人，借助大模型强大的自然语言理解和内容生成能力，支持客户信息、营销商机灵活查询，助力精准获客。

智能客服机器人服务远程客服近700人，集成了个人业务、公司业务、国际业务等重点场景知识库，帮助客服专员精准回答客户问题，提升服务满意度。

财报助手和京行研究机器人集成行内外众多权威机构万余篇深度报告，可为全行各业务场景提供研究支持和智慧决策参考。

AI智能工具箱内置语音语义、自然语言处理、数字人等AI核心技术，覆盖图像识别、语音识别、企业营销等28种AI能力，“即点即用”敏捷触达各类业务场景，为全行提供智能办公工具，全面提高工作效率。

金融人工智能应用平台从投产至今，已经在总行16个业务部门，14家分行，十余个场景中帮助业务释放价值，目前用户达1000多人，基于人工智能技术，为业务层提供了数字化转型的技术支持，在Agent助理的加持下，通过客服助手、智能报告、财报助手、运营助手等工具，持续赋能银行业务线条，成为银行转型发展的重要引擎。

六、项目成效

本项目探索了一条适合中小银行的自主可控、国产化、低成本的大模型建设和应用路径，通过优化服务模式、提升工作效率等方式，平均提升工作效率30%以上，替代人工约400人月，累计节约成本840多万元。

（1）经济效益

人工智能平台日均访问量达500多人次，累计调用量达10万余次，平均提升工作效率30%以上，替代人工约400人月，累计节约成本840万元。

利用RPA技术实现对189个业务流程的优化改造，机器人累计运行2万余小时，替代人工作业112万次。

通过模型实验室，对65个模型，模型指标31个进行监控，其中非零售模型18个，零售模型47个，目前已服务客户数10656万，识别坏客户数161万，助力业务条线提升风控能力。

（2）社会效益

响应国家人工智能战略，符合国家"科技强行"发展战略，为中国特色现代金融体系建设贡献力量。

落实人民银行、银保监会的金融科技监管要求，推进金融数字化转型，构建基于人工智能技术的商业银行新模式，以人为本全面推进智能技术在金融领域深化应用。

探索了一条适合中小银行的自主可控、国产化、低成本的大模型建设和应用路径，提升金融业务智能化、运营自动化水平，为银行高质量发展注入科技动能。

在完成行内重大项目、保障日常交付的同时，北京银行还坚持不断技术演进，截至目前，金融人工智能应用平台共获得8余项荣誉奖项。

1.2023年度中国数字化金融与科技创新应用优秀案例

2.2023第三届金融科技应用场景创新案例

3.中国人工智能产业发展联盟2023AIIA AI Infra推荐案例

4.2023数字化应用场景十佳解决方案

5.第五届银行业数字化创新（中国）峰会暨“华信奖”最高级别奖项“2024年度银行数字化品牌项目”奖

6.中国上市公司协会数字化转型最佳实践入围案例（技术领先优秀案例）

7.CIFS第五届中国银行数智峰会年度银行数字化转型标杆案例奖

8.2024年中国银行业创新发展优秀案例。

七、经验总结

本项目基于国家人工智能战略，围绕“科技强行”发展目标，积极响应金融科技监管要求，助力金融行业的数字化转型。在项目实践中，采用大模型和语义检索等先进的人工智能技术，打造AI Agent驱动的金融人工智能应用平台。这种创新模式颠覆了传统的工作流程，极大提升了工作效率和业务灵活性，推动了银行运营的智能化升级。

在项目推进过程中，积极应对行业痛点，包括数据安全和隐私保护、合规性要求、技术集成的复杂性以及高昂的研发和维护成本。为解决此类问题，团队投入大量资源进行技术研发和优化，确保平台不仅具备先进的功能，还能有效保障用户隐私和数据安全。此外，高度重视用户需求，通过提供定制化服务提高用户体验，推动技术在实际业务中的落地应用。

目前，基于大语言模型驱动Agent技术的金融人工智能应用平台已成功应用于多项金融业务场景，并作为唯一银行机构参与北京市大模型示范工程，赋能各业务部门，构建了以大模型为核心的智能化服务体系。项目的实施展示了较高的技术水平，特别是在利用人工智能技术解决金融领域复杂问题方面达到了国内领先水平。这一经验为未来金融科技项目的建设和推广提供了宝贵的参考和借鉴。