Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Dengan munculnya model besar kecerdasan buatan, Daya Komputasi telah menjadi model bisnis yang baru. Meskipun saat ini tren "mengolah ramuan" model besar mungkin akan perlahan memudar, penyedia layanan daya komputasi perlu bersiap-siap dan segera menyesuaikan arah strategi.
Bai Kaifeng, lulusan Universitas Tsinghua selama 3 tahun, telah melatih model besar meteorologi, menggunakan data cuaca global selama 40 tahun, dan melakukan pra-pelatihan selama sekitar 2 bulan dengan 200 kartu GPU. Berdasarkan perhitungan harga 7,8 yuan/jam/GPU, biaya pelatihan model besar di bidang vertikal ini mungkin melebihi 2 juta yuan. Jika itu adalah pelatihan model besar umum, biayanya bisa seratus kali lipat.
Saat ini, China sudah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, industri secara umum menghadapi masalah kekurangan GPU kelas atas. Biaya daya komputasi yang tinggi, serta kurangnya daya komputasi dan dana menjadi tantangan yang dihadapi banyak perusahaan.
Kekurangan GPU kelas atas adalah masalah yang sulit dipecahkan di seluruh industri. Ledakan model besar menyebabkan permintaan pasar untuk Daya Komputasi tumbuh dengan cepat, tetapi laju pertumbuhan pasokan jauh tertinggal. Meskipun dalam jangka panjang pasokan Daya Komputasi pasti akan beralih dari pasar penjual ke pasar pembeli, tetapi berapa lama proses ini akan berlangsung masih menjadi tanda tanya.
Setiap perusahaan sedang menghitung berapa banyak GPU Nvidia yang mereka miliki, dan berdasarkan itu menilai pangsa pasar. Sumber yang mengetahui mengatakan, jika memiliki hampir 10.000 kartu, dan total pasar adalah 100.000 kartu, maka pangsanya adalah 10%. Diperkirakan pada akhir tahun bisa mencapai 40.000 kartu, jika pada saat itu total pasar adalah 200.000 kartu, maka bisa mencapai pangsa pasar 20%.
Di satu sisi sulit untuk mendapatkan kartu GPU, di sisi lain, ambang batas untuk pelatihan model besar tidak semudah yang dipromosikan oleh industri. Biaya untuk melatih model besar umum dengan skala satu miliar parameter atau lebih dapat mencapai puluhan miliar bahkan ratusan miliar yuan. Beberapa orang dalam industri menyatakan bahwa tanpa dukungan dana ratusan miliar hingga triliunan, sangat sulit untuk berkembang jangka panjang di bidang ini.
Menghadapi situasi seperti ini, para pelaku industri umumnya percaya bahwa seiring dengan meningkatnya persaingan di pasar model besar, pasar juga akan beralih dari euforia menuju rasionalitas, dan perusahaan akan mengontrol biaya dan menyesuaikan strategi berdasarkan perubahan yang diharapkan.
Untuk mengatasi masalah kekurangan GPU kelas atas, perusahaan telah mengambil berbagai langkah.
Menggunakan data berkualitas lebih tinggi untuk pelatihan, meningkatkan efisiensi pelatihan.
Meningkatkan kemampuan infrastruktur, mencapai stabilitas operasi di atas 1000 kkal selama dua minggu tanpa kehilangan daya.
Optimalkan penjadwalan sumber daya Daya Komputasi, tingkatkan efisiensi penggunaan.
Meningkatkan kinerja jaringan, menghindari dampak pada kecepatan dan efisiensi pelatihan.
Beralih dari arsitektur komputasi awan ke arsitektur superkomputer untuk mengurangi biaya.
Menggunakan platform domestik untuk pelatihan dan inferensi model besar, menggantikan GPU Nvidia.
Bagi sebagian besar perusahaan, membangun pusat data sendiri untuk memenuhi kebutuhan adalah hal yang sulit, sehingga banyak tim algoritma memilih penyedia layanan daya komputasi profesional untuk mendukung. Kluster GPU tingkat kilokalori dapat menghasilkan efek skala, memilih penyedia daya komputasi dapat mengurangi biaya marginal.
Daya Komputasi telah berkembang menjadi model layanan baru dalam proses permintaan pasar dan iterasi teknologi. Esensi layanan daya komputasi adalah untuk mencapai output bersatu dari daya komputasi heterogen melalui teknologi komputasi baru, serta berintegrasi dengan teknologi cloud computing, big data, AI, dan lainnya. Ini tidak hanya mencakup daya komputasi, tetapi juga pengemasan bersatu dari sumber daya seperti penyimpanan, jaringan, dan lainnya, untuk menyelesaikan pengiriman daya komputasi dalam bentuk layanan ( seperti API ).
Dalam rantai industri daya komputasi, perusahaan hulu terutama memasok daya komputasi umum, daya komputasi pintar, daya komputasi super, penyimpanan, dan sumber daya dasar jaringan. Perusahaan menengah didominasi oleh penyedia layanan cloud dan penyedia layanan daya komputasi baru, yang mewujudkan produksi daya komputasi melalui teknologi pengaturan, penjadwalan, dan perdagangan daya komputasi, serta menyediakan daya komputasi melalui API dan cara lainnya. Perusahaan hilir merupakan peran dalam rantai industri yang bergantung pada kemampuan komputasi yang disediakan oleh layanan daya komputasi untuk layanan nilai tambah.
Penagihan berdasarkan penggunaan dan paket tahunan/bulanan adalah model utama layanan daya komputasi saat ini. Pengguna dapat memilih instans layanan daya komputasi atau platform layanan MaaS yang sesuai. Industri juga sedang mendorong "integrasi dan penggabungan jaringan daya komputasi", mendukung penjadwalan lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi kebutuhan komputasi berkinerja tinggi dari model besar, layanan daya komputasi yang berasal dari layanan cloud dengan cepat memasuki pandangan masyarakat umum, membentuk rantai industri dan model bisnis yang unik. Meskipun saat ini kekurangan GPU kelas atas menyebabkan fenomena "perebutan chip", ini hanya sementara. Dalam jangka panjang, daya komputasi menjadi layanan adalah tren yang pasti, penyedia layanan daya komputasi perlu mempersiapkan diri, agar dapat menyesuaikan strategi dengan cepat saat arah pasar berubah.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
10 Suka
Hadiah
10
7
Bagikan
Komentar
0/400
BoredRiceBall
· 07-22 22:40
Daya Komputasi Daya Komputasi bagaimana cara membelinya?
Lihat AsliBalas0
ChainDetective
· 07-22 10:50
Kartu grafis naik gila!
Lihat AsliBalas0
MemecoinResearcher
· 07-19 23:43
ngmi tanpa gpu kawan-kawan saya
Lihat AsliBalas0
LiquidityWizard
· 07-19 23:43
sebenarnya dinamika penawaran vs permintaan sudah harga di dalamnya... 98.7% yakin
Daya Komputasi layanan muncul: peluang dan tantangan baru di era model besar
Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Dengan munculnya model besar kecerdasan buatan, Daya Komputasi telah menjadi model bisnis yang baru. Meskipun saat ini tren "mengolah ramuan" model besar mungkin akan perlahan memudar, penyedia layanan daya komputasi perlu bersiap-siap dan segera menyesuaikan arah strategi.
Bai Kaifeng, lulusan Universitas Tsinghua selama 3 tahun, telah melatih model besar meteorologi, menggunakan data cuaca global selama 40 tahun, dan melakukan pra-pelatihan selama sekitar 2 bulan dengan 200 kartu GPU. Berdasarkan perhitungan harga 7,8 yuan/jam/GPU, biaya pelatihan model besar di bidang vertikal ini mungkin melebihi 2 juta yuan. Jika itu adalah pelatihan model besar umum, biayanya bisa seratus kali lipat.
Saat ini, China sudah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, industri secara umum menghadapi masalah kekurangan GPU kelas atas. Biaya daya komputasi yang tinggi, serta kurangnya daya komputasi dan dana menjadi tantangan yang dihadapi banyak perusahaan.
Kekurangan GPU kelas atas adalah masalah yang sulit dipecahkan di seluruh industri. Ledakan model besar menyebabkan permintaan pasar untuk Daya Komputasi tumbuh dengan cepat, tetapi laju pertumbuhan pasokan jauh tertinggal. Meskipun dalam jangka panjang pasokan Daya Komputasi pasti akan beralih dari pasar penjual ke pasar pembeli, tetapi berapa lama proses ini akan berlangsung masih menjadi tanda tanya.
Setiap perusahaan sedang menghitung berapa banyak GPU Nvidia yang mereka miliki, dan berdasarkan itu menilai pangsa pasar. Sumber yang mengetahui mengatakan, jika memiliki hampir 10.000 kartu, dan total pasar adalah 100.000 kartu, maka pangsanya adalah 10%. Diperkirakan pada akhir tahun bisa mencapai 40.000 kartu, jika pada saat itu total pasar adalah 200.000 kartu, maka bisa mencapai pangsa pasar 20%.
Di satu sisi sulit untuk mendapatkan kartu GPU, di sisi lain, ambang batas untuk pelatihan model besar tidak semudah yang dipromosikan oleh industri. Biaya untuk melatih model besar umum dengan skala satu miliar parameter atau lebih dapat mencapai puluhan miliar bahkan ratusan miliar yuan. Beberapa orang dalam industri menyatakan bahwa tanpa dukungan dana ratusan miliar hingga triliunan, sangat sulit untuk berkembang jangka panjang di bidang ini.
Menghadapi situasi seperti ini, para pelaku industri umumnya percaya bahwa seiring dengan meningkatnya persaingan di pasar model besar, pasar juga akan beralih dari euforia menuju rasionalitas, dan perusahaan akan mengontrol biaya dan menyesuaikan strategi berdasarkan perubahan yang diharapkan.
Untuk mengatasi masalah kekurangan GPU kelas atas, perusahaan telah mengambil berbagai langkah.
Menggunakan data berkualitas lebih tinggi untuk pelatihan, meningkatkan efisiensi pelatihan.
Meningkatkan kemampuan infrastruktur, mencapai stabilitas operasi di atas 1000 kkal selama dua minggu tanpa kehilangan daya.
Optimalkan penjadwalan sumber daya Daya Komputasi, tingkatkan efisiensi penggunaan.
Meningkatkan kinerja jaringan, menghindari dampak pada kecepatan dan efisiensi pelatihan.
Beralih dari arsitektur komputasi awan ke arsitektur superkomputer untuk mengurangi biaya.
Menggunakan platform domestik untuk pelatihan dan inferensi model besar, menggantikan GPU Nvidia.
Bagi sebagian besar perusahaan, membangun pusat data sendiri untuk memenuhi kebutuhan adalah hal yang sulit, sehingga banyak tim algoritma memilih penyedia layanan daya komputasi profesional untuk mendukung. Kluster GPU tingkat kilokalori dapat menghasilkan efek skala, memilih penyedia daya komputasi dapat mengurangi biaya marginal.
Daya Komputasi telah berkembang menjadi model layanan baru dalam proses permintaan pasar dan iterasi teknologi. Esensi layanan daya komputasi adalah untuk mencapai output bersatu dari daya komputasi heterogen melalui teknologi komputasi baru, serta berintegrasi dengan teknologi cloud computing, big data, AI, dan lainnya. Ini tidak hanya mencakup daya komputasi, tetapi juga pengemasan bersatu dari sumber daya seperti penyimpanan, jaringan, dan lainnya, untuk menyelesaikan pengiriman daya komputasi dalam bentuk layanan ( seperti API ).
Dalam rantai industri daya komputasi, perusahaan hulu terutama memasok daya komputasi umum, daya komputasi pintar, daya komputasi super, penyimpanan, dan sumber daya dasar jaringan. Perusahaan menengah didominasi oleh penyedia layanan cloud dan penyedia layanan daya komputasi baru, yang mewujudkan produksi daya komputasi melalui teknologi pengaturan, penjadwalan, dan perdagangan daya komputasi, serta menyediakan daya komputasi melalui API dan cara lainnya. Perusahaan hilir merupakan peran dalam rantai industri yang bergantung pada kemampuan komputasi yang disediakan oleh layanan daya komputasi untuk layanan nilai tambah.
Penagihan berdasarkan penggunaan dan paket tahunan/bulanan adalah model utama layanan daya komputasi saat ini. Pengguna dapat memilih instans layanan daya komputasi atau platform layanan MaaS yang sesuai. Industri juga sedang mendorong "integrasi dan penggabungan jaringan daya komputasi", mendukung penjadwalan lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi kebutuhan komputasi berkinerja tinggi dari model besar, layanan daya komputasi yang berasal dari layanan cloud dengan cepat memasuki pandangan masyarakat umum, membentuk rantai industri dan model bisnis yang unik. Meskipun saat ini kekurangan GPU kelas atas menyebabkan fenomena "perebutan chip", ini hanya sementara. Dalam jangka panjang, daya komputasi menjadi layanan adalah tren yang pasti, penyedia layanan daya komputasi perlu mempersiapkan diri, agar dapat menyesuaikan strategi dengan cepat saat arah pasar berubah.