大模型应用下金融业的转型探索

ChatGPT问世以来，金融业立即产生了强烈的焦虑感。这个对技术充满信仰的行业生怕在飞速发展的时代大潮中落后。这种焦虑情绪甚至蔓延到了宁静的寺庙。一位业内人士透露,她5月在大理出差时,在寺庙里都能遇到和她讨论大模型的金融从业者。

不过,这种焦虑正逐渐回归理性,思路也变得更加清晰。软通动力银行业务CTO描述了金融业对大模型态度的几个阶段:2-3月,普遍焦虑;4-5月,纷纷组建团队;之后几个月,在落地过程中遇到困难,变得理性;现在,开始关注标杆,尝试验证过的场景。

一个新趋势是,许多金融机构已经从战略层面重视大模型。据不完全统计,A股上市公司中至少有11家银行在最新半年报中明确提出正在探索大模型应用。从近期动作来看,他们正在战略层面和顶层设计层面进行更清晰的思考和路径规划。

从热情高涨到理性回归

年初ChatGPT刚出现时,金融客户对大模型的理解还很有限,虽然热情高涨,但不清楚具体该如何使用。一些大型银行率先行动,开始做各种"蹭热度"的宣传。同时,一些头部金融机构的科技部门积极与大厂讨论大模型建设事宜。他们普遍希望自建大模型,询问数据集制作、服务器购买、训练方法等问题。

5月后,情况逐渐变化。受算力资源紧缺、成本高昂等因素影响,许多金融机构开始从单纯希望自建转向更关注应用价值。目前每家金融机构都在关注其他机构使用大模型的情况及效果。

具体来看,大型金融机构可引入业界领先的基础大模型,自建企业大模型,同时采用微调方式形成专业领域的任务大模型,快速赋能业务。中小金融机构则可按需引入各类大模型的公有云API或私有化部署服务,直接满足赋能需求。

由于金融行业对数据合规性、安全性、可信性等要求较高,部分人士认为,该行业大模型落地进展实际略滞后于年初预期。一些金融机构已经开始寻找解决方案,比如在算力方面,有几种思路:

1. 直接自建算力,成本较高但安全性好,适用于希望自建行业或企业大模型的大型金融机构。

2. 算力混合部署,在敏感数据不出域的情况下,接受从公有云调用大模型服务接口,同时通过私有化部署处理本地数据服务。这种方式成本相对较低,适用于按需使用的中小型金融机构。

针对中小机构难以获得或负担GPU卡的问题,有关部门正在探索搭建面向证券行业的大模型基础设施,集中算力和通用大模型等资源,让中小金融机构也能使用大模型服务。

在数据治理方面,越来越多的腰部金融机构也开始构建数据中台和数据治理体系。一些银行正通过大模型+MLOps的方式解决数据问题,实现多源异构数据的统一管理和高效处理。

从外围场景切入

过去半年多,大模型服务商和金融机构都在寻找适用场景,包括智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等。

每家金融机构对大模型都有丰富构想。但实际落地时,普遍采取先内部后外部的策略。因为当前大模型技术尚不成熟,而金融行业对监管、安全和可信度要求很高。

目前,代码助手和智慧办公等场景已在不少金融机构落地。但业内人士判断,这些广泛落地的场景实际还不是金融机构的核心应用,大模型距离深入金融行业的业务层面还有一定距离。

一些顶层设计层面的改变正在进行。未来的智能化、数字化系统将建立在大模型基础之上,这要求金融行业在推动大模型落地过程中重新架构系统,同时也要让大模型和传统小模型协同起来。

目前已有多家头部金融机构基于大模型搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架。这些框架体系普遍有两大特点:一是大模型发挥中枢能力,将传统模型作为技能调用;二是大模型层采用多模型策略,内部赛马选出最优效果。

人才缺口依然庞大

大模型的应用已经开始对金融行业的人员结构带来一些挑战和变革。一些岗位面临被替代的风险,但也有银行希望大模型能带来新机会,提升员工服务质量和工作效率,同时释放部分员工做更高价值的工作。

更重要的是,大模型人才供给难以匹配激增的需求。金融机构在将大模型能力用于核心业务流程时面临人才短缺的挑战。直接应用大模型的人才需求相对简单,但如果要自建行业或企业大模型,则需要一支精干的垂直大模型技术队伍。

一些机构已采取行动,如联合设计培训课程、建立联合项目组等,以提升企业人员能力。在这个过程中,金融机构的人员结构也将迎来调整和变革,会用大模型的开发人员更容易留存。