案例概述:农业银行大模型 ChatABC,对大模型精调、提示工程、知识增强、检索增强、人类反馈的强化学习(RLHF)等大模型相关新技术进行了深入探索和综合应用,结合农业银行研发支持知识库、内部问答数据以及人工标注数据等金融知识进行融合训练调优,实现了全方位的金融知识理解和智能问答应用。
实现方式:农业银行 AI 研发团队全面推进全栈自主的人工智能服务平台建设,构建适应 AI 大模型的算力、数据、模型、工具、应用五位一体的 AI 大模型创新应用体系。在算力方面,构建云原生异构算力新基础,统一纳管 GPU、NPU 等 AI 芯片,提升算力利用效率;数据方面,围绕 “采建管用” 闭环构建基础数据闭环,优化数据配比、采集用户反馈数据、通过强化学习自优化;模型方面,采用开放式框架,构建适应不同场景的模型库,参考 HELM 等体系构建金融特色模型评价体系;工具方面,依托 kubeflow 等组件构建 AI 大模型训练流水线,提升训练效率;应用方面,构建异构知识库,支持全文检索、知识推理等场景,实现多源知识无缝融合。
主要成效:已在智能问答、智能客服、辅助编程、智能办公、智能风控等多个领域同步进行试点。其中智能问答场景已提供超过 200 万次问答服务;辅助编码场景支持代码生成、单测生成、代码翻译等功能,已超过 8 万行代码投入生产应用。
社会价值:是金融行业首个自主创新的金融 AI 大模型应用,通过 AI 大模型的创新应用,持续提升农业银行服务社会、服务经济、服务三农的水平,推动金融行业数字化转型和智能化升级。