浪潮信息：元脑企智EPAI助力金融大模型快速落地

2024金融科技应用创新发展大会暨农村金融机构信息化发展创新座谈会在上海举办。浪潮信息推出元脑企智EPAI企业大模型开发平台，面向金融业务场景，实现7天完成POC验证、2个月上线AI应用，通过将浪潮信息在AI算力底座建设、大模型开发领域积累的成熟、成功经验工具化，助力金融机构又快、又稳地部署生成式AI应用，助力金融数智化跨越式发展。

2024金融科技应用创新发展大会 浪潮信息王鹏飞发表演讲

浪潮信息售前技术支持部总经理王鹏飞在会上表示，公司致力于推动金融行业的数智化转型。元脑企智EPAI可为金融机构量身定制，提供一站式大模型应用开发部署解决方案。这一创新方案有助于金融机构以低成本、少人力实现高效率的智能应用开发，提升运营效率，降低风险，满足客户的智能化、场景化需求。

"玩转"大模型 中小金融机构面临"少技术、少资金、少数据"三大挑战

在金融行业，可以说整个行业都在往数字化转型的深水区积极探索，亟需以AI催生的数字金融、科技金融为抓手，塑造数字金融新业态新模式。

从政策上，根据三中全会精神，金融行业要进一步深化金融供给侧结构性改革，扎实做好"五篇大文章"。因此各家金融机构实施了从积极布局大模型，到关注金融行业大模型，再到聚焦金融应用场景的模型建设的系列举措。六大国有银行已在多个领域应用大模型，例如工行为20万网点员工打造智能助手，通过大模型吸纳全行50类业务，辅助柜员办理复杂业务、提升网点效能，智能处理业务量显著增长，23年智能处理业务量3.2亿笔，同比增长14%。同时，12家股份制银行中已有超过6家正在推进大模型及相关应用，中信银行开发大模型平台，兴业银行实现研报摘要智能生成，浦发和平安银行加强大模型平台和底座建设。金融机构对大模型的需求不仅是发展得"如火如荼"，而且对"增效"要求越来越迫切，金融机构在积极推动大模型在金融领域的落地实践。

金融大模型落地面临的技术挑战

然而金融机构想要部署大模型，仍有许多痛点。对于城商行、农商行、农信等中小金融企业或机构，想要"玩转"大模型，需要克服自身在数字资源、科技能力、业务场景等方面的限制，突破算法、算力、数据方面的屏障。

首先，从基础模型到实际应用，不仅需要软硬件的更新，还需要在制度、流程和管理等方面进行调整。比如，在金融大模型开发，从模型的选型、定制部署到应用开发的全流程，打造一套成熟的方案显得尤为重要。这不仅涉及到技术层面的考量，还包括了业务需求的深入理解、资源的合理配置以及未来扩展性的预见。一个久经打磨、成熟稳健的方案能够确保金融大模型项目的顺利进行，同时也能为后续的维护和升级提供坚实的基础。

其次，作为金融企业，归根到底在经营客户、业务、产品，以及货币、风险，模型服务要以盈利为目标，因此资金预算也是现实的考量。

第三，金融机构的数据资源，尤其是面向模型微调所需的高质量数据的缺乏，也是摆在面前的现实问题。

元脑企智助力金融机构快速部署大模型

元脑企智EPAI（Enterprise Platform of AI），正是浪潮信息的大模型应用落地解决之道，能够为企业AI大模型落地应用提供高效、易用、安全的端到端开发平台，提供数据准备、模型训练、知识检索、应用框架等系列工具，支持调度多元算力和多模算法，帮助企业高效开发部署生成式AI应用、打造智能生产力。

浪潮信息元脑企智EPAI 为中小金融机构量身定制

首先，从创新大脑到多元算力底座，元脑企智EPAI具有架构上的优势。

元脑企智拥有一个包含多种模型的大模型库，这是其核心部分。它分为三个主要部分：首先，提供场景数据，元脑企智利用上亿条基础知识数据和自动化工具帮助企业构建知识库。其次，模型定制，通过微调增强模型的学习能力，并利用知识库检索技术提升模型的查找能力。最后，应用构建和开发，元脑企智支持设定模型角色和偏好，配置功能化工具，并提供多种使用方式，同时确保全链路安全。此外，元脑企智的底座是适配多元、多模的多元算力Infra基础设施，包括元脑企智EPAI一体机，以及高效的多元算力管理调度工具。

其次，浪潮信息利用元脑企智提供一站式金融大模型应用孵化，涵盖三个主要步骤。其一，确定应用类型和预期效果；其二，根据需求和成本选择合适的基础大模型，并参考公开数据集；最后，通过提示词工程、RAG和模型微调增强模型场景能力。最后，完成这些步骤后，可以部署模型并开发应用，如集成API服务到业务系统或提供对话式机器人。对于复杂任务，智能体Agent可进行任务编排和工具调用。

王鹏飞认为，元脑企智之所以能一站式开发部署AI应用，"内功"非常重要。主要依托了几大优势。从数据工程上，元脑企智支持10种以上的企业常见数据格式，并可以超过95%的抽取准确率将其转化为知识库以及模型可用的微调数据。从模型开发上，元脑企智支持10种以上的开源大模型和接口协议，并逐步支持20种以上的计算芯片上的模型完全私有化部署。从算法功能上，元脑企智能够达到90%以上的RAG检索召回准确率，最快构建模型服务API的时间不足0.5天，且支持多种插件、IDE和编程语言。此外，元脑企智提供了低代码乃至无代码的环境，应用开发速度大大提高、培训周期显著缩短，有利于企业的降本增效。正是通过类似的开发范式，元脑企智可以便捷的助力各类金融场景应用的开发，让金融企业真正玩转大模型。

7天快速测试验证 助力金融大模型轻松上手

浪潮信息自推出元脑企智EPAI以来，成功实施了智能编程、智能客服大脑和智能投标助手等应用案例。智能客服大脑利用金融业务数据构建，能解决80%常见问题，并能与现有服务集成，提供自动化流程和智能化业务支持。智能编程助手借助元脑企智自动解析大型代码库，提升开发效率。智能投标助手能快速识别招标文件关键信息，节省业务时间，提高工作效率。

元脑企智助力金融机构 轻松上手大模型

据王鹏飞介绍，元脑企智助力金融客户实现项目快速实施，时间上最短7天，最长2个月。以最复杂的联合共创为例，以项目的形式划分为前期试用、方案确认、本地定制开发、验收落地四个阶段。虽然流程比较长，但核心的应用开发部分一般2~3周内完成；对于通常的大模型应用简单验证，不超过7天即可完成。

元脑企智EPAI，是浪潮信息2024年具有战略意义的产品，体现了浪潮信息一直在AI领域的前沿不停探索开拓的能力和决心。浪潮信息期望能将自身的AI成果赋能金融行业等千行百业，与客户、合作伙伴共同携手，加速AI创新落地。