专题 | 金融机构的大模型AI+之路

在过去的一年里，大模型一直朝着AGI的方向大步迈进，其演变速度之快，远超历史上任何一个时期。就像阿里巴巴CEO吴泳铭在2024云栖大会上说的那样，AI最大的想象力并不在手机屏幕里，而是要去改变整个物理世界。如今，大模型在不同行业的发展轨迹，似乎正在呈现出两个截然不同的方向：一边是模型本身变得越来越“聪明”，不同模态之间的转化、交互和生成能力日益成熟，甚至开始向自动驾驶、人形机器人这些更广泛的真实世界领域渗透；另一边则是那些对专业性和严谨性要求极高的行业，它们更关注模型的准确性和可靠性，核心诉求变成了如何让基座大模型与行业数据、行业知识进行深度整合。

先说几个核心判断：金融行业正在进入一个AI Native的全新发展阶段。回顾“十四五”时期，金融行业的数字化建设成果丰硕，但同时也暴露了数字化投入巨大、以及业务转型深度与广度不够的问题。2023年的中央金融工作会议更是明确提出了“五篇大文章”的新要求。而AI大模型的横空出世与高速发展，恰恰为数字技术赋能金融带来了全新的机遇——它让“想象力”真正变成“生产力”。

基座大模型的发展节奏已经逐渐清晰，多模态和强化学习让推理能力越来越强，AI Native这个概念也被行业广泛接受。所谓AI Native，本质上就是让人工智能深度融入业务流程和系统，成为业务的核心组成部分。在金融行业，这意味着要将AI技术与金融业务紧密结合，实现智能化的投资决策、风险管理、精准营销、客户服务、研发与运维等等。

AI Native的发展还意味着计算架构、系统架构、应用和数据范式将发生根本性的变化。大模型的Scaling law法则中，算力、数据、算法是三个核心要素。随着金融企业对大模型能力的摸索越来越深入，更大的算力、更大规模或更高质量的数据、更强的算法，就构成了金融机构构建金融级AI Native架构的三大关键考量点。

AI Native Infra：拓展云基础设施的边界

目前，大多数金融机构已经完成或正在进行云平台建设，很多也参考了公共云架构，组建了多地多中心多活的架构和云原生体系。但随着大模型应用场景的不断深入，无论是在训练或微调阶段对并行计算、高速网络、高性能文件存储的需求，还是在推理阶段对弹性、时延、业务连续性的要求，都给现有的云基础设施能力带来了新的挑战。如何基于云基础设施实现异构算力的一体化管理、公专弹性一体化调度，以及端到端的监控和运维，成了必须面对的问题。

算力架构分散、利用效率不高，是目前国内AI技术应用的一个明显瓶颈。通过算力虚拟化和池化来屏蔽底层异构算力的差异，再通过推理调度框架在显存、算子、编译等方面进行优化，实现不同性能算力的统一加速，这已经是金融机构在AI算力基础架构上的必然选择。

当大模型应用从试点走向更大规模的日常生产，支撑推理应用的高并发，同时提供随时可用的弹性能力，就成了刚性需求。在特定高峰时刻，将负载弹性调度到行业云、金融云等公共基础设施上，可以较好地平衡效果与成本。

如果把大模型的训练比作开发，那么推理就是典型的生产。如何在硬件层、模型层、应用层实现端到端的监控和运维，确保大模型应用和传统交易类应用一样具备可观测性和业务连续性，是规模化投产的关键前提。AI基础设施需要具备全链路、高精度的监控数据用于性能分析和调度优化，以及更快速、更自动化的故障发现和隔离能力。

AI Native Data：激活一切数据资产

大多数金融机构已经完成了数据中台建设，围绕结构化数据构建了“采建管用”的能力，一定程度上支撑了经营决策、客户营销和风险管理等场景。但这些数据只占到金融企业整体数据的很小一部分，而且由于质量和工具等方面的原因，很多数据并没有被有效利用。推动企业更大范围的数据与大模型全面融合，不仅能让大模型更好地学习和理解企业知识，还能充分激活和挖掘数据的价值。简单说，这需要构建一个从数据到信息、再到知识、最后到智能的完整链路（DIKW）。

金融机构拥有更大规模的半结构化和非结构化数据，这些数据可以显著提升大模型应用的专业性和严谨性。数据中台需要升级对多模态数据的管理能力，包括采集、存储、向量化、知识图谱、查询等。在训练阶段，要满足大模型对数据规模和多样性的要求；在推理阶段，则要满足对查询效率、响应时间以及实时数据更新的要求。

利用大模型能力来构建智能化的数据工程，比如智能数据分析、数据探查、建模、全域数据集成，以及主动式的数据资产治理。这样做的目的，是提升数据资产加工处理的效率，提高数据质量，降低数据分析和应用的门槛，从而最大化数据资产的价值。

为了更高效地实现从数据到信息、知识再到智能的转化，需要把之前分散的DataOps和MLOps打通。这样一来，无论在数据开发平台还是AI开发平台，都能方便地完成数据的加工处理、模型的训练、发布和应用等整个链路。

AI Native Application：打造先进智能服务

伴随着金融机构云平台的建设，各类金融应用也完成了云原生相关的改造和优化——从狭义上的容器化、微服务、CI/CD、DevOps，到广义上的单元化、服务网格、全链路可观测等。应用的云原生化实现了金融机构的数字化。那么，下一站的智能化，如何将AI能力与金融业务紧密结合，实现智能化的风险管理、精准营销和客户服务，就成了构建和管理金融应用面临的新挑战。

大模型的能力决定了金融应用的智能化程度。目前国内大模型生态中，既有开源也有闭源，能力上分为语言、语音、图像、视频模型，尺寸上则有0.5B、7B的小尺寸，也有72B、100B的大尺寸。而且，模型的迭代速度非常快。所以，金融机构应该打造一个灵活开放的模型市场，综合考量性能、成本、开发进度和发展潜力等因素，来选择合适的模型，并在必要时进行替换。

目前来看，单靠基础大模型的能力，还很难处理那些带有复杂金融逻辑和较长流程的业务场景。为了满足金融行业对专业性和严谨性的要求，还需要借助企业内部的结构化和非结构化数据，对基础模型进行知识增强和结果验证。一个一站式的大模型应用开发平台，可以极大地降低开发门槛、提高开发效率——在训练阶段，提供数据处理、训练微调、模型评测等能力；在应用阶段，提供RAG、Agent、Multi-Agent等工程化能力。

在大模型时代，每一个应用都值得被智能化重做一遍。智能体作为一种能自主执行任务的新应用形态，具备更强的自主能力、交互能力和学习能力，能在复杂环境中优化其行为策略，实现预定目标。自主能力，意味着智能体可以减少预设程序，比如在智能投顾领域，它可以根据市场趋势和个人偏好主动提供建议；交互能力，让它能与用户进行自然对话，提升体验，比如在客服领域，通过自然语言处理技术与用户沟通，完成信息查询、预订等服务；学习能力，则让许多智能体能够自我进化，比如在智能营销中，根据用户的行为模式不断调整推荐策略。

过去十年，阿里云深度参与了中国金融行业信息化和数字化的进程。在汹涌而来的智能化时代，阿里云围绕算力、数据、算法为金融客户提供了一揽子方案：算力层面，除了提供专有云环境下普算智算一体化的异构资源管理和运维方案，还提供了满足合规与安全要求的金融云和公共云资源弹性方案；数据层面，对原有数据中台方案进行了升级，实现了Data+AI的双向赋能；算法层面，为金融客户提供了全模态、全尺寸、广开源的基础模型，以及一站式大模型应用开发平台“通义点金”。

未来，阿里云将继续加强与金融客户共研、与合作伙伴共建，持续推动金融行业大模型应用的技术创新，通过深入理解金融行业的特性和需求，助力金融机构更高效、更智能地服务实体经济。

（此文刊发于《金融电子化》2024年11月上半月刊）