一、项目背景

聚焦青海农信数字化转型、运营提效与服务优化需求，立足农村金融机构轻量化、高创新、快落地优势，抢抓大模型赋能机遇，破解知识碎片化、流程低效、合规成本高、科技支撑不足等痛点。项目构建私有化大模型、多维知识库与场景化智能体方案，搭建智能体平台，落地办公智能助手，实现知识检索、智能问数、智能方案生成，推动运营向“数据+AI驱动”转变，提升效率、降低成本，为普惠金融、乡村振兴及区域金融高质量发展筑牢智能根基。

二、项目方案

当前银行业数字化转型全面提速，人工智能技术已成为优化金融运营、提升服务质效、强化风险管控的关键抓手，为银行业务革新提供技术支撑。2025年初DeepSeek大模型规模化落地，打破大型机构技术垄断壁垒，大模型技术平权优势充分凸显，大幅降低中小金融机构AI应用门槛，使青海农信这类农村金融机构得以突破技术资源限制，自主开展AI创新应用落地，以金融科技赋能业务提质增效，抢抓乡村振兴与普惠金融发展新机遇。

本项目以私有化部署、场景化落地、轻量化赋能为目标，依托DeepSeek、Qwen等主流开源大模型与华为昇腾国产化算力，采用RAG检索增强、智能体工作流编排、多模型协同调度等新技术，解决机构AI算力不足、数据安全风险高、知识碎片化、数据调取低效、业务流程繁琐、智能技术应用薄弱等技术与业务痛点。通过搭建国产化算力底座、私有化大模型集群、企业级智能体平台与多维金融知识库，实现AI技术与办公、运营、业务支撑等场景融合，打造自主可控、安全合规、低成本、快迭代、可复制的农村金融机构AI转型方案，最终达成运营效率提升、管理成本下降、业务质量优化、服务乡村振兴能力增强的建设成果。

三、创新点

1.应用推广创新点

知识检索智能化：针对内部制度文件、监管条文、业务手册、涉农政策、合规要点分散杂乱，传统人工检索耗时费力、信息不全、政策衔接不清等痛点，搭建多维一体知识库，依托大模型语义理解实现自然语言交互式检索，摒弃关键词搜索局限，支持模糊查询、关联检索、政策解读、要点提炼一站式完成。知识获取效率提升90%以上，规避业务风险，统一执行标准，降低合规培训与沟通成本。

数据查询轻量化：聚焦业务数据分散、调取繁琐、基层无专业数据分析能力、决策支撑低效等痛点，打造轻量化智能问数功能，无需SQL编写能力，员工通过自然语言即可完成数据查询、统计、分析、报表生成，覆盖运营、客户、普惠金融数据。打破数据孤岛，替代传统人工流程，数据查询从天级压缩至分钟级，数据支撑效率提升50%以上，落地即用、无需额外培训。

2.技术创新点

建设国产昇腾NPU算力底座，解决机构发展AI应用算力不足、海外算力数据安全风险高、运维成本高昂的技术难题。算力包含3台华为昇腾Atlas800IA2型算力一体机，采用光纤直联方式搭建算力集群，具备高效算力调度、低功耗、高稳定性优势，通信时延低，完成DeepSeek-R1、Qwen两类参数规模模型部署私有化部署，保障数据全程不出域，可稳定支撑智能体、模型推理等全场景应用。

部署DeepSeek-R1671B、70B、Qwen-3235B、Qwen-2.572B、Qwen-2.5-VL32B共五个模型，类型覆盖通用大模型、多模态模型，根据各模型特点，DeepSeekR1系列用于“智能问数”场景，问数需求分析和SQL生成，Qwen模型用于语义理解、语义推理与上下文回复，多模态模型用于各类文档识别。模型语言理解、语义推理、内容生成适配农信业务需求，推理响应速度快，幻觉率大幅优化，支持多轮稳定交互，性能指标满足办公、业务辅助需求。

构建全行级智能知识库，引入RAG检索增强技术。系统累计导入各类结构化与非结构化文档2653份，支持用户自主构建知识库，搭建起本地专属知识库与模型推理的联动链路，实现知识问答有据可依、有源可溯。模型生成内容全程依托本地实时更新的业务知识、监管条文及政策文件，知识准确率提升至90%以上。同时，系统支持知识库动态更新，确保业务知识、监管要求与涉农政策实时同步，有效解决大模型落地金融场景的技术瓶颈，保障业务应用的合规性与准确性。

建设智能体构建工作流编排工具，组件包含输入节点、大模型节点、控制器节点、RAG节点、工具节点、输出节点，功能上支持模型选择、智能体选择、提示词配置、文档查询、内容生成、上下文改写、HTTP调用、代码解释、对话输出等功能。

建设5个场景智能体，打造专属AI执行单元。对标主流智能体技术，实现办公辅助、知识检索、智能问数、方案生成与通用问答五个场景，实现自主语义理解、自动执行、结果自动反馈。智能体无需复杂配置，员工可直接上手使用，解决通用智能体落地难、实用性差的问题，实现AI技术与农信业务的深度融合。

搭建私有化部署的智能聊天机器人页面，作为智能体与员工的交互入口，嵌入办公OA系统，全程内网运行、数据不对外传输，规避第三方聊天工具的数据安全风险。机器人支持自然语言多轮交互，可快速响应知识查询、数据问询、流程咨询、业务指导等各类需求，交互流畅、响应迅速，同时具备操作留痕、权限管控功能，是安全、高效、专属的AI交互入口。

四、技术实现特点及优势

1.系统业务架构

本系统以支撑内部办公、赋能业务运营、服务乡村振兴为业务目标，采用基座支撑、能力中台、场景应用、统一入口四层业务架构，实现AI能力与农信业务流程无缝融合。

底层算力与模型基座：提供国产化私有化算力与多模型集群支撑，保障AI运算稳定、数据安全不出域，为全业务场景提供算力与算法基础。中层智能能力中台：集成智能体编排、多维知识库、智能问数引擎、RAG检索、API接口等能力，实现能力复用、统一调度、快速迭代。上层业务场景应用：实现知识智能检索、智能问数、业务方案自动生成、合规辅助、客户服务支撑五个业务场景。前端统一接入入口：以内网OA智能聊天机器人为统一交互界面，面向全员提供便捷、安全、稳定的AI服务，覆盖PC端与移动端，适配多网点分散办公需求。整体业务架构轻量化、高适配、易推广，实现技术赋能业务、AI提升效率的业务目标。

2.系统应用架构

系统应用架构采用五层标准化分层设计，搭建闭环化、高解耦、轻量化的业务落地体系，技术层面实现分层赋能、快速适配、灵活迭代。底层为基础模型层，集中部署DeepSeek、Qwen系列主流开源大模型，依托模型自身强大的语义理解、推理生成能力，为上层全场景应用提供算力与算法支撑，保障智能交互的精准度与流畅度。模型层之上搭建统一智能体能力中台，集成智能体工作流编排、多维知识库、标准化API接口、智能体调度与监控模块，实现能力的复用共享，降低整体运维与迭代成本。业务层打造知识智能检索、智能问数功能模块，分别对接向量知识库与全行业务数据仓库，解决内部知识碎片化、跨系统数据调取低效、人工查询耗时费力等突出问题，实现业务与技术的深度融合。前置服务层承担请求鉴权、流量负载均衡、安全路由职能，过滤非法请求、保障系统平稳运行，杜绝流量波动导致的服务故障。顶层打造统一多端接入入口，通过响应式设计适配内网OA端与移动办公端，实现智能体全流程可视化管控与员工便捷操作，整体架构轻量化、易扩展、易落地，具备较强的业务适配性与后续迭代延展性。

3.系统数据架构

数据架构分为数据应用层、数据处理层和数据存储层三个层次。数据应用层面向具体业务场景，提供智能问答、指标查询、意图识别和文档检索等能力；数据处理层以数据飞轮引擎为核心，包含数据采集、数据标注、模型训练、效果评测和反馈迭代五个环节，形成完整的数据处理闭环；数据存储层提供文档库、指标库、意图库、评测数据集等多种数据存储能力，底层依托MySQL、PostgreSQL、向量数据库和对象存储OSS等基础设施。

文档库数据架构支持完整的文档处理流程，从原始文档经过分段处理、向量化、索引存储到检索召回。分段策略提供版面格式切分、句子切分和定长切分三种方式，其中版面格式切分按照文章章节目录结构拆分保持段落结构优先级最高。增强策略包括表格增强、图片增强和标签增强，对文档中的表格、图片信息构造自然语言索引，匹配文本块的标签信息来召回相关文本。召回策略支持向量引擎搜索和文本引擎搜索两种方式，前者基于文本语义相似性匹配，后者基于关键词检索，混合召回后设置最终结果数、排序策略和召回分数阈值。

4.系统技术架构

采用分层架构设计，自下而上分为基础设施层、模型层、能力层和应用层四个层级。基础设施层依托百炼平台、灵骏计算资源、向量数据库和关系型数据库提供稳定的底层支撑；模型层集成通义千问系列大模型，同时兼容OpenAI协议模型和Embedding模型，提供灵活的模型选择；能力层是平台的核心，包含智能体编排引擎、文档库、指标库、意图库和MCP服务广场，为上层应用提供丰富的能力组件；应用层则面向具体业务场景，支持智能客服、智能投顾、合规问答、手机银行助手等多种智能应用。

平台的功能模块包括：智能体开发引擎支持简单智能体和复杂智能体两种开发模式，前者通过配置提示词、变量、搜索引擎等快速构建对话类智能体，后者通过工作流编排实现多智能体协作完成复杂任务；工作流编排组件提供输入节点、大模型节点、控制器节点、RAG节点、工具节点和输出节点等丰富的组件类型，支持可视化拖拽式编排；数据飞轮（LLMTurns）构建"模型能力→场景价值→业务生产力"的正向循环系统，支持数据准备、模型调优和效果评测全流程；MCP服务广场提供丰富的预置模型组件和能力服务，同时支持接入自研或第三方MCPServer。

平台的技术特点突出体现在低代码开发、灵活扩展、企业级能力和持续优化四个方面，通过可视化拖拽式工作流编排降低AI应用开发门槛，支持OpenAI兼容协议可接入多种大模型，提供完善的成员与权限管理支持多用户协作，并通过数据飞轮实现模型持续迭代优化。

五、项目过程管理

该项目由数字银行部、信息科技部牵头组织，信息科技部负责具体实施，采用跨部门联合牵头、分工协同实施方式。主要经历了以下五个阶段。

1.需求分析和概要设计阶段

2025年05月至2025年06月，主要完成了需求分析及概要设计工作，形成了项目计划表、需求规格说明书、系统概要设计说明书、系统集成方案、安全需求。

2.系统详细设计阶段

2025年06月至2025年06月，主要完成了系统详细设计工作，形成了系统详细设计方案。

3.系统编码、测试和上线准备阶段

2025年06月至2025年07月，完成了系统开发与测试工作，完成了单元测试报告、系统集成测试报告、用户验收测试报告。

4.试点上线阶段

2025年07月至2025年09月，完成了系统上线和面向信息科技部、数字银行部两个部门员工第一批内部全功能试点推广应用工作，形成了投产方案、投产手册。

5.推广应用阶段

2025年09月至2025年11月，面向省联社干部员工完成了第二批全量功能试点推广应用工作，2025年12月面向全系统完成全量功能推广应用工作。

六、运营情况

项目上线后，面向全系统3768名员工，全面提供知识检索、智能问数、方案生成及通用智能问答四类智能体应用，月均提问次数达5000余次，相关成果如下：

1.智能问答重点赋能内部办公知识检索，有效破解单位内部制度文件、监管条文、业务手册、涉农政策、合规要点分散杂乱的痛点，切实发挥智能赋能作用，大幅提升办公辅助效能，转化为运营成本降低与业务收益增长的双重实效。针对传统人工检索耗时费力、信息查找不全、新旧政策衔接不清等问题，项目搭建多维一体知识库，依托大模型语义理解能力，实现自然语言交互式知识检索，摒弃传统关键词搜索局限，支持模糊查询、关联检索、政策解读、要点提炼一站式完成。以往基层员工查找业务规范、合规要求、涉农金融政策需翻阅多类文档，耗时长达30分钟以上，现通过智能检索可1分钟内获取精准信息，知识获取效率提升90%以上，同时规避信息错漏导致的业务风险，统一内部业务执行标准，大幅降低合规培训与业务沟通成本。

2.在运营成本控制方面，成效尤为显著。传统数据查询模式下，行内需投入大量人力用于数据提取与整理，业务人员提出数据需求后，技术人员需耗费大量时间编写代码、筛选数据，多部门沟通协调进一步增加了时间成本，整体流程繁琐且效率低下。项目智能问数功能上线后，业务人员可通过自然语言直接查询数据，无需依赖技术人员协助，使技术人员从繁琐的基础数据处理工作中解脱，人力成本得到大幅下降。同时，系统通过自动化处理数据，有效减少了人工操作失误导致的重复工作，降低了试错成本。

3.在业务收益增长方面，智能体应用的赋能作用持续凸显。信贷业务领域，智能问数助力银行快速获取客户多维度数据，精准评估客户信用风险，有效提高信贷审批效率与质量。以往审批一笔贷款需耗时数天，如今仅需数小时即可完成全流程审批，大幅降低优质客户流失率，推动贷款业务量实现显著增长。营销领域，客户经理可通过智能问数实时获取客户画像、消费偏好等数据，实现精准营销，针对不同客户群体推荐个性化金融产品，有效提高营销成功率，进一步增加中间业务收入。

七、项目成效

1.经济效益

在成本控制上，传统模式下，数据查询需投入大量人力，技术人员耗时编写代码、筛选数据，多部门沟通增加时间成本；项目上线后，业务人员可通过自然语言直接查询数据，解放技术人员人力，人力成本大幅下降。同时，智能检索使知识获取效率提升90%以上，规避信息错漏风险，统一业务执行标准，降低合规培训与沟通成本。

在收益增长上，智能体应用赋能业务提质增效，营销领域实现营销方案精准批量生成，提高产品推广成功率，增加中间业务收入。

2.社会效益

项目不仅搭建了标准化、可拓展的智能体平台，更形成了轻量化、易落地的智能赋能模式，具备较强的行业示范作用。该平台的建成，为未来进一步赋能实际金融业务奠定了坚实基础，让智能技术更有可能深度融入信贷投放、客户服务、风险防控等业务场景，释放更大价值。

八、经验总结

本项目立足青海农信高原农村金融机构实际，以AI大模型+智能体为核心，坚持国产化、私有化、轻量化、场景化建设路径，形成可复制、可推广的中小金融机构数智化转型经验。一是技术务实可控，以华为昇腾国产化算力为底座，采用开源大模型私有化部署，确保数据不出域、安全合规，破解中小机构算力不足、技术依赖难题。二是场景刚需落地，聚焦知识检索、智能问数、方案生成等高频痛点，小步快跑、快速见效，让AI真正服务业务、赋能基层。三是平台能力复用，搭建智能体平台与多维知识库，沉淀标准化能力组件，支持多场景快速扩展，避免重复建设。四是推广轻量化普惠，以自然语言交互、免培训易用设计，实现全员覆盖，让科技红利下沉一线，助力乡村振兴与普惠金融。五是闭环持续迭代，基于用户使用数据优化模型与知识库，不断提升准确率与响应效率，实现技术与业务同步进化。

项目有效提升运营效率、降低管理成本、增强业务支撑能力，为高原金融机构数智化转型与绿色发展融合树立标杆，为全国农信及中小银行AI落地提供实践参考。