苏州农商银行人工智能平台是一套包含机器学习模型开发工具、非结构化数据标注、语音合成、语音识别、语义理解、OCR识别等多种能力的综合性平台。对于模型开发人员来说，平台可以轻松地进行机器学习模型的快速开发和部署。对于智能化应用场景来说，平台具备的各项AI能力，可以有效的为全行智能化、数字化转型赋能。

一、项目方案

随时数字化时代的到来，一些金融机构通过采购人工智能科技公司的平台、模型来响应业务部门的需求，AI科技公司在一定程度上的确为金融行业的数字化、智慧化转型提供了技术支撑，并且已经有一些应用落地了。目前金融机构数字化、智能化转型面临的困境是：

1、人工智能技术平台的引入在一开始就缺乏统一的规划，金融行业对数据的保护较为严格，大多系统都需要私有化部署，互相之间没有做兼容性改造，后期优化模型、维护模型会带来很多不便。

2、单一的AI任务无法实现，目前大多数在用的方案是从不同的厂商采购不同的能力或者从同一厂商采购多个能力但是这些能力之间底层不能互通，这必然会带来AI底层能力的重复性建设、软硬件平台的投入成本高、科技人员维护成本高等难题。

苏州农商银行通过建设人工智能平台作为智能中台来解决上述困境，平台架构图见图1，每层内容如下：

图1 AI平台架构图

基础数据层：主要负责对数据的统一监控与存储，包括数据治理、数据聚合、数据采集等功能，同时负责模型、标签以及知识数据的汇聚与管理，为标注训练层提供数据支撑。

标注训练层：包含两方面内容：一是深度学习平台，嵌入多种先进的处理算法，提供训练语言模型，图像模型、风控/营销模型等功能，同时覆盖训练流程的全生命周期管理。二是标注平台，支持对音频、文本、图片的可视化界面标注，终形成一条从标注、训练，再到模型优化更新的闭环流程。

AI+层：提供先进的人工智能核心能力与算法，主要包括语音识别能力，语音合成能力、自然语言理解能力以及OCR能力。

服务层：提供接入负载、应用鉴权、服务调用路由和第三方信源调用模式，提供各类开发语言的SDK以及WebAPI接口供应用层调用。

应用层：面向全行的智能化应用场景，包含智慧网点、新一代手机银行、智能客服等交互场景，业务部门的精准营销模型、风险部门的精准风控模型，审计部与财务部的OCR识别场景等。

二、项目创新点

2.1多系统融合

平台的设计方案的优势在于技术方案的完备性和功能点之间的连通性。本设计方案不仅具备机器学习+深度学习全生命周期（从数据引入、数据处理、模型训练、模型线上发布到模型服务管理等）的开发功能，还具备语音识别合成、自然语言理解、OCR识别等能力输出功能，平台能够在对接金融机构现有系统进行能力输出的同时高效地定期维护和更新。

2.2统一接口微服务架构

模型通过微服务方式对外提供服务，在模型更新过程中业务部门无需更新代码。由于不同供应商的的接口并不相同，行内自研统一接口服务对供应商接口进行适配代理，业务部门调用统一接口服务，即保持了不同模型接口调用方式的统一，也实现了对业务部门调用量、调用情况的监控。统一接口服务的管理门户自主研发集成到AI平台门户中使得AI中台能够及时发现业务调用问题，调用趋势等。

2.3推广应用创新

业务部门人员在AI平台体验中心可以点击查看各个模型的使用说明、图文介绍，部分模型能跳转到应用中心进行体验。通过这种主动体验的方式减少了推广的成本、增强了业务人员对于技术的认知。

图2 AI平台应用中心

图3 AI平台体验中心

三、技术实现特点

图4 训练平台逻辑架构图

3.1可视化展示层

前端用Vue/Stylus/Node技术框架，Vue是一套构建用户界面的渐进式框架，用户整体页面布局开发，灵活易用。Stylus预处理程序，解决样式覆写的问题，尤其是mixin式复用，可缓解多浏览器兼容造成的冗余，使CSS开发更加灵。Node.js 使用了一个事件驱动、非阻塞式 I/O 的模型，使其轻量又高效。

3.2业务逻辑处理层

1、tdl service

采用gin微框架搭建了整体的web框架服务，并对外提供restful api接口。

使用mysql用于存储管理相关数据。

分为用户空间、项目空间、数据空间、模型空间、工作台主要五大模块。

通过rest接口调用bettertrain服务，向其提交dag任务，并通过生成的任务id查询任务状态。

通过s3协议接口，调用fuse-s3服务，直接获取存储的数据信息(不经过数据库层)。

2、fuse-se service

底层可挂载文件存储或者对象存储。

对外提供标准的s3协议，并额外进行s3功能扩展,完成桶拷贝、数据共享功能扩展。

3、bettertrain-service

通用的dag任务调度能力，底层可定制化调度平台，目前支持接入k8s和单机docker。

支持定制化模板。

基于rabbitmq实现任务队列，基于mysql进行任务配置和状态等管理。

通过api向k8s或者docker提供任务，并进行任务的管理。

3.3调度层

1、k8s

适合集群化使用。

基于Kubernetes的device plugin完成GPU信息的收集和存储。

提交任务只需声明本次任务需要的资源和相关服务即可，Kubernetes会根据集群当前运行情况，选择合适的节点完成各类任务的调度、运行、结果的反馈等工作。

原生Kubernetes default-scheduler的GPU资源分配为均衡分配，极易造成资源碎片。开发自定义调度器scheduler替换default-scheduler，以达到资源大化利用。

Kubernetes支持所有提交任务的运行情况查看以及节点gpu、cpu、内存等使用情况查询。

2、Docker

适合单机训练时使用。

自研的gpu scheduler,进行gpu资源的分配。

支持所有提交任务的运行情况查看以及节点gpu、cpu、内存等使用情况查询。

3.4数据层

Mysql数据库

创建，访问，管理，搜索和复制所保存的数据。

3.5存储层

1、文件存储(NFS)

也叫作文件级或者基于文件的存储，它是以一种分层的结构存储数据。数据保存于文件和文件夹中，同样的格式用于存储和检索。对于Unix、Linux系统，利用网络文件系统协议（NFS）能够访问这些数据，而对于Windows，使用服务器消息块协议（SMB协议）进行访问。

图5 训练平台数据流向图

四、项目过程管理

AI平台的项目建设主要分建设、测试、接入、改善4个阶段，每个阶段的进度见图6。

图6 项目管理甘特图

五、运营情况

2020年我行初步完成了智能中台、数据中台的搭建，实现AI能力全行级共享，并联合业务部门试点完成了部分应用场景的建设，取得了一些成效。

在OCR识别场景方面，分别联合计划财务部、网络金融部上线了发票识别模型、营业执照和身份证识别模型。

在智能语音、语义方面，为网络金融部全渠道客服项目提供了AI支持。

在精准营销方面，联合三农与普惠金融部构建了小微企业精准营销模型、代发工资客户精准营销模型。

在智能风控方面，联合风险管理部开发了对公贷款逾期预测模型。

六、项目成效

应用生物识别、人工智能、大数据等先进信息技术，在企业的互联网支付、线上贷款、手机银行、普惠金融、风险预警等30个业务中得到应用，部门场景成效如下表。

AI+数字金融：2020年本行共为64700个企业客户、1876559个个人客户提供数字金融服务；数字金融业务交易额为193.87万亿元，同比变化8.7%。

AI+移动支付：2020年网络移动支付业务交易额为8790亿元，占比为0.05%；三农、供应链金融交易额为177.66亿元，同比变化84.2%,占比为0.01%；通过POS、网络支付、一码通、云闪付等丰富支付方式为客户提供便捷的金融服务，已建立6.47万个支付终端服务64572家商铺；共有103万人实名制注册并使用移动支付功能，同比变化39.1%。

AI+营销风控：通过机器学习算法实施了小微企业精准营销模型、代发工资客户精准营销模型和对公贷款逾期预测模型，针对100多万客户通过场景化、颗粒化和几十个维度的层层过滤，终为5万多名个人客户提供存款理财类金融服务，单客群个人存款增1.14亿元，AUM值增1.83亿元，消费类贷款和小微企业经营性贷款营销模型，仅三个多月时间新增授信1.4亿。

AI+智慧运营：OCR方面投产使用了营业执照、发票和身份证识别模型，提升内部经营管理效率；智能语音、语义方面助力全渠道项目的场景建设，提供更优质客户体验。

手机银行项目荣获2020中国电子银行金榜奖佳手机银行成长奖；“互联网+不动产抵押30分钟”项目成为全国首个纯线上不动产抵押项目；“锦E贴”产品实现秒级放款，荣获苏州市金融科技赋能实体经济竞赛“支持小微类”优秀奖。

图7 发票识别模型调用量情况

七、经验总结

在项目建设过程中我行通过应用中心、体验门户的方式快速向全行业务部门推广，同时由于模型采用微服务架构的方式对外提供服务，业务部门现有系统可以快速接入，减少了对接的沟通成本。此外统一接口服务适配代理了大部分模型接口并将各个模型业务调用情况在AI平台门户进行统一的多维度展示，用于分析业务调用趋势、发现业务调用问题，使得AI平台真正成为打通业务与技术的中台。