Exploration de la transformation du secteur financier sous l'application de grands modèles

Depuis la création de ChatGPT, le secteur financier a immédiatement ressenti une forte anxiété. Cette industrie, qui a une foi inébranlable dans la technologie, craint de se retrouver à la traîne dans ce courant rapide de développement. Cette anxiété s'est même répandue dans des temples paisibles. Un professionnel du secteur a révélé qu'en mai, lors d'un voyage d'affaires à Dali, elle avait même rencontré des acteurs financiers dans un temple pour discuter des grands modèles.

Cependant, cette anxiété revient progressivement à la raison et les idées deviennent plus claires. Le CTO des services bancaires de Softstone a décrit plusieurs étapes de l'attitude du secteur financier envers les grands modèles : de février à mars, une anxiété générale ; d'avril à mai, formation de nombreuses équipes ; puis, au cours des mois suivants, des difficultés rencontrées lors de la mise en œuvre, devenant plus rationnels ; maintenant, on commence à se concentrer sur les références et à essayer de valider des scénarios éprouvés.

Une nouvelle tendance est que de nombreuses institutions financières accordent désormais une importance stratégique aux grands modèles. Selon des statistiques incomplètes, au moins 11 banques cotées en bourse en Chine ont clairement indiqué dans leurs derniers rapports semestriels qu'elles explorent l'application de grands modèles. D'après les récentes initiatives, elles réfléchissent et planifient de manière plus claire en termes de stratégie et de conception au plus haut niveau.

De l'enthousiasme à un retour à la raison

Au début de l'année, lorsque ChatGPT est apparu, la compréhension des clients financiers concernant les grands modèles était encore très limitée. Bien qu'ils soient très enthousiastes, ils ne savaient pas vraiment comment les utiliser concrètement. Certaines grandes banques ont pris les devants et ont commencé à faire diverses promotions pour "profiter de la tendance". En même temps, les départements technologiques de certaines grandes institutions financières ont activement discuté de la construction de grands modèles avec de grandes entreprises. Ils espèrent généralement construire leurs propres grands modèles et posent des questions sur la création de jeux de données, l'achat de serveurs, les méthodes d'entraînement, etc.

Après mai, la situation a progressivement changé. En raison de la pénurie de ressources de puissance de calcul et des coûts élevés, de nombreuses institutions financières ont commencé à passer d'une simple volonté de construire elles-mêmes vers une attention accrue à la valeur d'application. Actuellement, chaque institution financière se concentre sur l'utilisation et l'efficacité des grands modèles par d'autres institutions.

Plus précisément, les grandes institutions financières peuvent adopter des modèles de base de pointe dans l'industrie, construire des modèles de grande taille pour leurs entreprises et utiliser des méthodes de réglage fin pour créer des modèles de tâches spécialisés, permettant ainsi d'accélérer l'autonomisation des activités. Les petites et moyennes institutions financières peuvent, quant à elles, faire appel aux API cloud publiques de divers modèles de grande taille ou aux services de déploiement privés, répondant directement à leurs besoins d'autonomisation.

En raison des exigences élevées du secteur financier en matière de conformité des données, de sécurité et de fiabilité, certaines personnes estiment que l'avancement des grands modèles dans ce secteur est en réalité légèrement en retard par rapport aux prévisions du début de l'année. Certaines institutions financières ont déjà commencé à rechercher des solutions, par exemple en ce qui concerne la puissance de calcul, plusieurs pistes existent :

1. Construire directement sa propre puissance de calcul, coût élevé mais bonne sécurité, adapté aux grandes institutions financières qui souhaitent établir de grands modèles industriels ou d'entreprise.

2. Déploiement hybride de la puissance de calcul, acceptant les appels d'interface de service de modèle à grande échelle depuis le cloud public sans que les données sensibles ne sortent du domaine, tout en traitant les services de données locales par le biais d'un déploiement privatisé. Cette méthode a un coût relativement bas, adaptée aux institutions financières de taille moyenne et petite qui utilisent les services à la demande.

Pour résoudre le problème des petites et moyennes institutions qui ont du mal à obtenir ou à se permettre des cartes GPU, les autorités explorent la création d'une infrastructure de grands modèles destinée au secteur des valeurs mobilières, en centralisant la puissance de calcul et les ressources de grands modèles généraux, afin que les petites et moyennes institutions financières puissent également utiliser les services de grands modèles.

Dans le domaine de la gouvernance des données, de plus en plus d'institutions financières de taille intermédiaire commencent également à construire des plateformes de données et des systèmes de gouvernance des données. Certaines banques résolvent des problèmes de données grâce à une approche combinant des modèles de grande taille et MLOps, permettant une gestion unifiée et un traitement efficace des données hétérogènes provenant de multiples sources.

Entrée par le biais de scénarios périphériques

Au cours des six derniers mois, les fournisseurs de services de grands modèles et les institutions financières ont recherché des cas d'utilisation, y compris le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligents, la gestion des risques intelligente, l'analyse des besoins, etc.

Chaque institution financière a des idées riches sur les grands modèles. Mais lors de leur mise en œuvre, la stratégie adoptée est généralement de commencer par l'interne avant de passer à l'externe. En effet, la technologie des grands modèles n'est pas encore mature, et le secteur financier a des exigences élevées en matière de réglementation, de sécurité et de fiabilité.

Actuellement, des scénarios tels que l'assistant de code et le bureau intelligent ont déjà été mis en œuvre dans de nombreuses institutions financières. Cependant, les professionnels du secteur estiment que ces scénarios largement déployés ne constituent pas encore les applications essentielles des institutions financières, et que les grands modèles sont encore à une certaine distance d'une intégration approfondie dans les aspects opérationnels du secteur financier.

Des changements au niveau de la conception de haut niveau sont en cours. Les systèmes intelligents et numériques de demain seront basés sur de grands modèles, ce qui exige que le secteur financier restructure ses systèmes lors de la mise en œuvre de ces grands modèles, tout en veillant à ce que les grands modèles et les petits modèles traditionnels soient en collaboration.

Actuellement, plusieurs grandes institutions financières ont construit un cadre système stratifié comprenant plusieurs niveaux tels que la couche d'infrastructure, la couche de modèle, la couche de service de grand modèle et la couche d'application, basé sur de grands modèles. Ces systèmes présentent généralement deux grandes caractéristiques : premièrement, le grand modèle joue un rôle central, utilisant les modèles traditionnels comme des compétences ; deuxièmement, la couche de grand modèle adopte une stratégie multi-modèle, sélectionnant le meilleur effet par des compétitions internes.

Le manque de talents reste énorme

L'application des grands modèles a déjà commencé à poser certains défis et à transformer la structure du personnel dans le secteur financier. Certains postes sont à risque d'être remplacés, mais certaines banques espèrent que les grands modèles pourront offrir de nouvelles opportunités, améliorer la qualité du service des employés et l'efficacité au travail, tout en libérant une partie des employés pour des tâches de plus grande valeur.

Plus important encore, l'offre de talents en modèles de grande taille peine à répondre à la demande croissante. Les institutions financières sont confrontées à un défi de pénurie de talents lorsqu'elles appliquent les capacités des grands modèles à leurs processus commerciaux essentiels. La demande de talents pour l'application directe des grands modèles est relativement simple, mais si l'on souhaite construire un modèle de grande taille pour un secteur ou une entreprise, une équipe technique spécialisée en modèles de grande taille est nécessaire.

Certaines institutions ont pris des mesures, telles que la conception conjointe de programmes de formation et la création de groupes de projets communs, afin d'améliorer les compétences du personnel des entreprises. Dans ce processus, la structure du personnel des institutions financières sera également soumise à des ajustements et à des transformations, et il sera plus facile de retenir les développeurs de grands modèles.