Eksplorasi Transformasi Industri Keuangan di Bawah Aplikasi Model Besar

Sejak peluncuran ChatGPT, industri keuangan segera merasakan kecemasan yang kuat. Industri yang penuh dengan keyakinan terhadap teknologi ini sangat takut tertinggal dalam arus zaman yang berkembang pesat. Kecemasan ini bahkan menyebar hingga ke kuil yang tenang. Seorang pelaku industri mengungkapkan, saat dia melakukan perjalanan dinas ke Dali pada bulan Mei, dia bahkan bisa bertemu dengan para profesional keuangan yang mendiskusikan model besar di kuil.

Namun, kecemasan ini secara bertahap kembali menjadi rasional, dan pemikiran mulai menjadi lebih jelas. CTO bisnis perbankan Softcom Power menggambarkan beberapa tahap sikap industri keuangan terhadap model besar: pada bulan Februari-Maret, kecemasan umum; April-Mei, banyak yang membentuk tim; beberapa bulan kemudian, mengalami kesulitan dalam implementasi, menjadi rasional; sekarang, mulai fokus pada tolok ukur, mencoba memverifikasi skenario yang telah diuji.

Sebuah tren baru adalah bahwa banyak lembaga keuangan telah mulai memberi perhatian pada model besar dari sudut pandang strategis. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan yang terdaftar di A-share yang secara eksplisit menyatakan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang mengeksplorasi aplikasi model besar. Dari tindakan terbaru, mereka sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas di tingkat strategis dan desain tingkat atas.

Dari Antusiasme Tinggi ke Kembali Rasional

Pada awal tahun, ketika ChatGPT baru muncul, pemahaman klien finansial tentang model besar masih sangat terbatas. Meskipun antusiasme tinggi, mereka tidak tahu cara penggunaannya secara spesifik. Beberapa bank besar mengambil tindakan lebih dulu dan mulai melakukan berbagai promosi untuk ‘memanfaatkan popularitas’. Pada saat yang sama, departemen teknologi beberapa lembaga finansial terkemuka aktif berdiskusi dengan perusahaan besar tentang pembangunan model besar. Mereka umumnya berharap untuk membangun model besar sendiri, menanyakan tentang pembuatan dataset, pembelian server, metode pelatihan, dan pertanyaan lainnya.

Setelah bulan Mei, situasinya mulai berubah. Dipengaruhi oleh kekurangan sumber daya daya komputasi dan biaya yang tinggi, banyak lembaga keuangan mulai beralih dari harapan untuk membangun sendiri menjadi lebih fokus pada nilai aplikasi. Saat ini, setiap lembaga keuangan sedang memantau penggunaan model besar oleh lembaga lain dan hasilnya.

Secara spesifik, lembaga keuangan besar dapat memperkenalkan model dasar yang terdepan di industri, membangun model besar perusahaan sendiri, sambil menggunakan metode fine-tuning untuk membentuk model tugas di bidang profesional, dengan cepat memberdayakan bisnis. Lembaga keuangan kecil dan menengah dapat secara fleksibel memperkenalkan berbagai layanan API cloud publik atau layanan penyebaran privat dari model besar sesuai kebutuhan, untuk langsung memenuhi kebutuhan pemberdayaan.

Karena industri keuangan memiliki persyaratan yang tinggi terhadap kepatuhan data, keamanan, dan keandalan, beberapa orang percaya bahwa kemajuan penerapan model besar di industri ini sebenarnya sedikit tertinggal dari harapan awal tahun. Beberapa lembaga keuangan telah mulai mencari solusi, misalnya dalam hal daya komputasi, ada beberapa pemikiran:

1. Membangun kekuatan komputasi secara langsung, biayanya tinggi tetapi keamanannya baik, cocok untuk lembaga keuangan besar yang ingin membangun model besar sendiri dalam industri atau perusahaan.

2. Penerapan kekuatan komputasi yang campur, menerima panggilan dari layanan model besar di cloud publik tanpa mengeluarkan data sensitif dari domain, sambil memproses layanan data lokal melalui penerapan privat. Cara ini relatif lebih murah dan cocok untuk lembaga keuangan kecil dan menengah yang menggunakan secara on-demand.

Untuk masalah sulitnya lembaga kecil dan menengah mendapatkan atau membayar kartu GPU, pihak berwenang sedang menjajaki pembangunan infrastruktur model besar yang ditujukan untuk industri sekuritas, dengan mengonsolidasikan kekuatan komputasi dan sumber daya model besar umum, agar lembaga keuangan kecil dan menengah juga dapat menggunakan layanan model besar.

Dalam hal tata kelola data, semakin banyak lembaga keuangan menengah mulai membangun platform data dan sistem tata kelola data. Beberapa bank sedang menyelesaikan masalah data melalui pendekatan model besar + MLOps, untuk mencapai manajemen terpadu dan pemrosesan efisien dari data yang beragam dan sumber yang berbeda.

Memasuki dari Skenario Periferal

Selama lebih dari enam bulan terakhir, penyedia layanan model besar dan lembaga keuangan telah mencari skenario yang sesuai, termasuk kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, manajemen risiko cerdas, analisis kebutuhan, dan lainnya.

Setiap lembaga keuangan memiliki gagasan yang kaya tentang model besar. Namun, saat diterapkan, umumnya mengadopsi strategi internal terlebih dahulu sebelum eksternal. Karena teknologi model besar saat ini masih belum matang, dan industri keuangan memiliki tuntutan yang tinggi terkait regulasi, keamanan, dan kepercayaan.

Saat ini, skenario seperti asisten kode dan kantor cerdas telah diterapkan di beberapa lembaga keuangan. Namun, para ahli industri menilai bahwa skenario yang luas diterapkan ini sebenarnya belum menjadi aplikasi inti bagi lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami lapisan bisnis di industri keuangan.

Beberapa perubahan di tingkat desain tingkat atas sedang berlangsung. Sistem cerdas dan digital di masa depan akan dibangun di atas dasar model besar, yang mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar, sambil juga memastikan bahwa model besar dan model kecil tradisional dapat berkolaborasi.

Saat ini, sudah ada beberapa institusi keuangan terkemuka yang membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi berdasarkan model besar. Kerangka ini umumnya memiliki dua karakteristik utama: pertama, model besar berperan sebagai kemampuan sentral, menggunakan model tradisional sebagai pemanggilan keterampilan; kedua, lapisan model besar menggunakan strategi multi-model, memilih hasil terbaik melalui kompetisi internal.

Kekurangan talenta masih sangat besar

Aplikasi model besar telah mulai menghadapi beberapa tantangan dan perubahan terhadap struktur tenaga kerja di industri keuangan. Beberapa posisi menghadapi risiko digantikan, namun ada juga bank yang berharap model besar dapat membawa peluang baru, meningkatkan kualitas layanan karyawan dan efisiensi kerja, sambil membebaskan sebagian karyawan untuk melakukan pekerjaan yang lebih bernilai.

Yang lebih penting, pasokan bakat model besar sulit untuk memenuhi permintaan yang meningkat pesat. Institusi keuangan menghadapi tantangan kekurangan bakat saat menerapkan kemampuan model besar dalam proses bisnis inti. Permintaan bakat yang langsung menerapkan model besar relatif sederhana, tetapi jika ingin membangun model besar industri atau perusahaan sendiri, diperlukan tim teknis model besar vertikal yang terampil.

Beberapa lembaga telah mengambil tindakan, seperti merancang kursus pelatihan bersama, membentuk kelompok proyek bersama, dan sebagainya, untuk meningkatkan kemampuan staf perusahaan. Dalam proses ini, struktur personel lembaga keuangan juga akan mengalami penyesuaian dan perubahan, dengan pengembang model besar yang lebih mudah untuk dipertahankan.