大模型應用下金融業的轉型探索

ChatGPT問世以來，金融業立即產生了強烈的焦慮感。這個對技術充滿信仰的行業生怕在飛速發展的時代大潮中落後。這種焦慮情緒甚至蔓延到了寧靜的寺廟。一位業內人士透露,她5月在大理出差時,在寺廟裏都能遇到和她討論大模型的金融從業者。

不過,這種焦慮正逐漸回歸理性,思路也變得更加清晰。軟通動力銀行業務CTO描述了金融業對大模型態度的幾個階段:2-3月,普遍焦慮;4-5月,紛紛組建團隊;之後幾個月,在落地過程中遇到困難,變得理性;現在,開始關注標杆,嘗試驗證過的場景。

一個新趨勢是,許多金融機構已經從戰略層面重視大模型。據不完全統計,A股上市公司中至少有11家銀行在最新半年報中明確提出正在探索大模型應用。從近期動作來看,他們正在戰略層面和頂層設計層面進行更清晰的思考和路徑規劃。

從熱情高漲到理性回歸

年初ChatGPT剛出現時,金融客戶對大模型的理解還很有限,雖然熱情高漲,但不清楚具體該如何使用。一些大型銀行率先行動,開始做各種"蹭熱度"的宣傳。同時,一些頭部金融機構的科技部門積極與大廠討論大模型建設事宜。他們普遍希望自建大模型,詢問數據集制作、服務器購買、訓練方法等問題。

5月後,情況逐漸變化。受算力資源緊缺、成本高昂等因素影響,許多金融機構開始從單純希望自建轉向更關注應用價值。目前每家金融機構都在關注其他機構使用大模型的情況及效果。

具體來看,大型金融機構可引入業界領先的基礎大模型,自建企業大模型,同時採用微調方式形成專業領域的任務大模型,快速賦能業務。中小金融機構則可按需引入各類大模型的公有雲API或私有化部署服務,直接滿足賦能需求。

由於金融行業對數據合規性、安全性、可信性等要求較高,部分人士認爲,該行業大模型落地進展實際略滯後於年初預期。一些金融機構已經開始尋找解決方案,比如在算力方面,有幾種思路:

1. 直接自建算力,成本較高但安全性好,適用於希望自建行業或企業大模型的大型金融機構。

2. 算力混合部署,在敏感數據不出域的情況下,接受從公有雲調用大模型服務接口,同時通過私有化部署處理本地數據服務。這種方式成本相對較低,適用於按需使用的中小型金融機構。

針對中小機構難以獲得或負擔GPU卡的問題,有關部門正在探索搭建面向證券行業的大模型基礎設施,集中算力和通用大模型等資源,讓中小金融機構也能使用大模型服務。

在數據治理方面,越來越多的腰部金融機構也開始構建數據中臺和數據治理體系。一些銀行正通過大模型+MLOps的方式解決數據問題,實現多源異構數據的統一管理和高效處理。

從外圍場景切入

過去半年多,大模型服務商和金融機構都在尋找適用場景,包括智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等。

每家金融機構對大模型都有豐富構想。但實際落地時,普遍採取先內部後外部的策略。因爲當前大模型技術尚不成熟,而金融行業對監管、安全和可信度要求很高。

目前,代碼助手和智慧辦公等場景已在不少金融機構落地。但業內人士判斷,這些廣泛落地的場景實際還不是金融機構的核心應用,大模型距離深入金融行業的業務層面還有一定距離。

一些頂層設計層面的改變正在進行。未來的智能化、數字化系統將建立在大模型基礎之上,這要求金融行業在推動大模型落地過程中重新架構系統,同時也要讓大模型和傳統小模型協同起來。

目前已有多家頭部金融機構基於大模型搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架。這些框架體系普遍有兩大特點:一是大模型發揮中樞能力,將傳統模型作爲技能調用;二是大模型層採用多模型策略,內部賽馬選出最優效果。

人才缺口依然龐大

大模型的應用已經開始對金融行業的人員結構帶來一些挑戰和變革。一些崗位面臨被替代的風險,但也有銀行希望大模型能帶來新機會,提升員工服務質量和工作效率,同時釋放部分員工做更高價值的工作。

更重要的是,大模型人才供給難以匹配激增的需求。金融機構在將大模型能力用於核心業務流程時面臨人才短缺的挑戰。直接應用大模型的人才需求相對簡單,但如果要自建行業或企業大模型,則需要一支精幹的垂直大模型技術隊伍。

一些機構已採取行動,如聯合設計培訓課程、建立聯合項目組等,以提升企業人員能力。在這個過程中,金融機構的人員結構也將迎來調整和變革,會用大模型的開發人員更容易留存。