一、项目背景及目标

在当今数字化浪潮席卷各行业的背景下，金融领域正面临着前所未有的变革机遇与挑战。中央及福建省委金融工作会议明确提出，要加快建设金融强国，充分把握数字技术革命带来的契机，大力推动金融与数字技术的深度融合与创新，全方位加快监管数字化智能化转型进程。

在此政策引领下，我司积极响应，致力于深入挖掘数字化转型的多元场景，从规章制度的建设以及日常运用实践为切入点，依托大模型技术开展深入研究探索，旨在打造一个能够显著提升业务知识和规章制度使用效率与传导效果的企业智慧问答系统。企业智慧问答系统共分为智慧制度与智慧财务两大模块，为全司员工营造便捷获取财务费控报销相关信息和规章制度知识的环境，精准识别员工提问意图并高效匹配相应规章条款，赋能一线员工专业素质提升。

长期以来公司业务知识和制度规章繁多、分布零散、难以查找，同样的，企业内部的财务板块也面临着亟待解决的难题。财务人员每日深陷大量与费用报销相关的咨询工作泥潭，各类问题高度相似且重复性极强，致使人力成本不断攀升，工作效率却受限难以提升。尽管企业内部积累了海量的业务和管理数据，并且已配套建设多个功能模块助力数据应用，但由于不同系统间存在差异，业务流程复杂度高，用户在准确获取所需数据时困难重重，往往需要对系统和业务有深入且全面的了解才能完成数据提取任务，这无疑进一步抬高了数据利用的门槛与难度，严重制约了企业运营效率的提升。

鉴于上述复杂严峻的形势，本企业智慧问答系统项目应运而生。项目旨在凭借先进的人工智能技术，充分挖掘大语言模型的强大潜能，对企业内部的财务咨询与数据获取流程进行全面优化升级，从而提升整体运营效率与服务质量，为企业在数字经济时代的持续稳健发展提供坚实有力的支撑。

二、创新点

企业智慧问答系统共分为智慧制度与智慧财务两大模块：

1.智慧制度

“数据驱动”：创新性提出多维度评估规章制度和业务知识，对制度和知识按公司治理要求进行科学分类，开展存量制度数据治理、建立增量制度管理机制，标本兼治，有效归集知识库。

智能知识梳理，按照一定规则帮助业务人员高效梳理规章制度和业务知识，快速形成知识库。

大模型人机交互，利用大模型技术优化人机交互体验，降低业务人员获取规章制度和业务知识时的个人知识积累门槛。

2.智慧财务

（1）极简架构设计

摒弃冗余组件：完全舍弃向量数据库、向量模型、多路召回策略等复杂技术栈，无需混合检索（如全文检索 + 向量召回）和资源隔离运维

去人工化设计：无需人工定制数据切片策略、存储加工策略或召回策略，避免因复杂系统带来的开发维护成本。

（2）数据处理与算力优化

动态信息处理：通过动态文件过滤和窗口分区（而非固定chunk切割），避免数据切片导致的信息丢失和排序干扰。

上下文完整性：利用大模型直接处理原始文件（非碎片化文本），保留完整语义关联，消除chunk同质化问题。

暴力美学计算：基于大模型支持超长上下文（百K token输入），通过窗口分区管理（文件区、片段区、系统缓冲区），最大化利用GPU算力。

性能与成本优化：极限缓存命中（缓存与miss token比例2:1）降低推理成本；仅需个位数token输出，规避解码瓶颈，扩展性极强。

（3）工程创新与优化

全流程大模型驱动：从文件筛选到答案生成，全程依赖LLM自主决策（非人工规则），减少人为干预导致的性能天花板。

实时性与灵活性：动态响应query需求，无需全量更新向量库（对比一代RAG依赖批量更新），适应实时场景。

LLM-Native设计：完全围绕大模型能力构建（非依赖传统NLP组件），通过算法创新（如128k窗口分区）实现效果跃升。

无预处理的端到端流程：无需复杂数据预加工，直接处理原始代码/文档，避免预处理导致的信息扭曲。

三、项目技术方案

1.智慧制度

（1）文档预处理阶段

文档筛选：对华福内规库文件进行全面梳理，依据业务相关性、法规效力等标准，剔除过期、失效及与核心业务关联度低的非必要文件，筛选出有效的内规文件集合。

文本切分：将筛选后的有效内规文件进行切分，按照合理的语义单元（如按章节、条款等）将其分解为多个文本片段，便于后续处理和检索。

向量编码与存储：调用文本向量化模型，将切分后的文本片段编码为高维语义向量，捕捉文本深层次的语义信息，并将这些语义向量存储于高性能的向量数据库中，为后续的语义匹配奠定基础。

（2）大模型微调阶段

模型选择：在众多预训练大模型中，经过充分评估和对比，选定与华福业务领域契合度高、具备较强语言理解和生成能力的基础大模型作为初始模型。

数据准备：收集整理华福内规文档以及相关的高质量问答对，问答对涵盖内规的核心内容、常见业务场景中的合规问题及解答等，作为模型微调的数据集。

微调训练：利用准备好的数据集对选定的大模型进行监督微调，通过调整模型参数，使模型学习到华福内规领域的专业语言风格、知识要点和问答逻辑，从而提高模型对内规相关问题的回答准确性和专业性。

（3）在线问答阶段

问题处理与语义匹配：当用户提出内规相关问题时，系统首先利用语义模型将问题文本转换为语义向量。同时，结合经典的 BM25 算法，综合计算问题语义向量与内规文本片段语义向量的相似度，快速、精准地从向量数据库中检索出若干个与问题语义最接近的内规文本片段。

提示词构建与回答生成：将匹配到的相关内规章节文本片段与用户问题进行整合，精心构建为适合大模型输入的提示词。将该提示词输入微调后的大模型，大模型依据其强大的语言生成能力，基于提示词中的信息和已学习到的内规知识，生成针对用户问题的详细、准确、专业的回答内容，并将回答反馈给用户。

（4）持续优化阶段

Agent服务架构：系统内置 Agent 服务，负责统筹协调用户请求中涉及的各项具体任务。Agent 服务可灵活调用多种专业工具，包括语义理解工具用于精准解析用户问题语义；数据召回工具高效检索内规知识库；数据重排工具对检索结果进行优化排序；API 调用工具整合公司内部其他相关系统数据；以及复杂计算工具处理涉及合规指标等的复杂计算任务。

幻觉问题解决与优化：借助 Agent 的精准召回能力，能够在大模型生成回答前，对相关信息进行严格筛选和验证，有效减少大模型可能出现的幻觉问题，确保回答内容的准确性和可靠性。同时，基于用户与系统的交互数据，包括用户反馈、新出现的内规问题及解答等，Agent 不断对系统进行自我优化和迭代，持续提升系统性能和回答质量。

2.智慧财务

用户请求触发检索流程，系统智能调用三个模型实现高效筛选。

（1）初始阶段简单检索模型依据段落特征快速初步筛选，初步定位关键信息；

（2）小参数量大模型(Qwen-2.5-14B-Instruct，参数量140亿)对全文进行初筛，凭借其轻量级优势快速过滤无关内容；

（3）同类型小参数量大模型接力进行全文二筛，进一步优化筛选结果，精准定位关键信息；

（4）将筛选后的文档传递给大参数量大模型(Qwen-2.5-72B-Instruct，参数量720亿)，由其深度处理并生成精准回答，整个流程智能高效，确保高质量的检索与回答生成。

四、项目过程管理

2024.8-2024.9   项目框架建立与开发

2024.10         企业智慧问答系统——智慧制度上线

2024.11-2024.12 智慧制度上线宣传

2025.2-2025.3   项目优化迭代上线——接入思维链

2025.4-2025.5   项目优化规划——智慧财务

2025.6-2025.7   智慧财务上线

2025.8-2025.9   后续维护运营

五、运营情况

自智慧问答系统上线至2025年5月底，访问人数达1400+，使用次数达6300人次。

同期团队针对AI技术进行推广，同时推进企业内部智慧问答系统的宣讲。2024年11月，AI内训团队组织开展分公司应用技巧线上培训，培训覆盖27家分公司。2025年3月，AI内训团队在全国27家分公司，总部21个部门开启轮回培训宣讲。内部建立答疑群，及时在群内推送应用更新优化情况。

六、项目成效

1.直接经济效益

（1)大幅降低人工工作量：AI机器人可替代部分基础咨询工作，减轻人工处理工作量，可更好的服务业务。

(2)提高处理效率：机器人可24/7实时响应，缩短用户等待时间，提升整体效率。

(3)减少错误率：自动化回答可避免人工解答的疏漏，降低因错误信息导致的重复沟通和标准出入。

2.间接经济效益

(1)提升员工满意度：快速、准确的解答能提高内部用户（员工）的体验，减少因报销问题导致的负面情绪。

(2)优化财务团队工作重心：释放员工精力，使其专注于高价值任务（如数据分析、流程优化），提升整体财务效率。

(3)增强数据洞察能力：通过机器人收集的高频问题，为后续流程优化提供数据支持。

3.技术效益

(1)推动企业智能化转型：落地AI技术应用，积累经验，为未来更多场景的AI部署奠定基础。

(2)提升系统集成能力：机器人可与现有系统（如ERP、OA）对接，强化企业技术生态的协同性。

4.战略效益

（1）支持规模化发展：随着公司扩张，机器人可无缝应对咨询量增长，避免人力资源的线性增加。

（2）前瞻性布局：抢占AI在财务领域的应用先机，为未来智慧财务（如自动化审核、预测分析）积累经验。

七、经验总结

1.技术架构与业务需求深度融合，保障项目实效性

（1）对接业务需求：深入剖析企业知识管理与财务咨询等业务流程中的痛点与难点，将其拆解为多个具体的应用场景。通过打造智能问答核心引擎、多源知识整合、精准答案推送等关键模块，确保系统功能紧密贴合业务实际需求。

（2）分步推进项目实施：运用“需求调研—模型选型—系统开发—测试优化—推广应用”的逐步推进模式，加速项目从概念设计到全面落地的进程，确保各阶段成果都能有效承接并推动后续工作开展。

2.智能技术优化提升，构建长效运营机制

（1）智能问答性能优化：建立系统性能监测体系，实时追踪问答准确率、响应时长、用户满意度等关键指标，依据数据反馈对模型参数、知识库结构、问答逻辑进行持续优化，实现问答质量与效率的螺旋式提升。

（2）全员赋能知识共享：公司内部成立跨部门项目推广小组，采用线上线下联动的方式，为 27 家分公司及总部 21 个部门提供培训，着重讲解智能问答系统的应用场景拓展、知识更新维护以及复杂问题处理技巧，打造企业内部知识共享与智能协作的良性生态。