Bilgi İşlem Gücü Hizmeti: Büyük Model Çağında Yeni İş Modeli

Yapay zeka büyük modellerinin yükselmesiyle birlikte, bilgi işlem gücü yeni bir iş modeli haline geldi. Şu anda büyük model "alchemist" heyecanı yavaş yavaş azalsa da, bilgi işlem gücü hizmet sağlayıcıları tedbirli olmalı ve stratejik yönlerini zamanında ayarlamalıdır.

Tsinghua Üniversitesi'nden mezun olduktan 3 yıl sonra Bi Kaifeng, küresel 40 yıllık hava durumu verilerini kullanarak bir hava durumu büyük modeli eğitti ve yaklaşık 2 ay boyunca 200 GPU kartı ile ön eğitim yaptı. Saatlik 7.8 TL/GPU fiyatına göre hesaplandığında, bu dikey alandaki büyük modelin eğitim maliyeti 2 milyon TL'yi geçebilir. Genel büyük model eğitimi yapıldığında, maliyetin yüz katına çıkması mümkün.

Şu anda Çin'de 100'den fazla 10 milyar parametre ölçeğinde büyük model bulunmaktadır. Ancak, sektör genelinde yüksek kaliteli GPU eksikliği sorunu ile karşı karşıya. Bilgi İşlem Gücü maliyetleri yüksek, bilgi işlem gücü ve sermaye eksikliği birçok şirketin karşılaştığı bir sorun haline geldi.

Yüksek kaliteli GPU'ların kıtlığı, tüm sektörde zor bir sorun. Büyük modellerin patlaması, pazardaki bilgi işlem gücü talebinin hızla artmasına neden oldu, ancak arzın artış hızı çok geride kaldı. Uzun vadede bilgi işlem gücü arzının satıcı pazarından alıcı pazarına geçeceği kesin olsa da, bu sürecin ne kadar süreceği hala bir bilinmez.

Her şirket, elinde ne kadar NVIDIA GPU bulundurduğunu hesaplayarak pazar payını belirlemeye çalışıyor. Konuyla ilgili kişiler, eğer elinde yaklaşık 10.000 kart varsa ve pazar toplamda 100.000 kart ise, o zaman pazar payı %10'dur. Yıl sonuna kadar 40.000 karta ulaşması bekleniyor; eğer o zaman pazar toplamı 200.000 kart olursa, o zaman %20'lik pazar payına sahip olabilir.

Bir yandan GPU kartı bulmak zor, diğer yandan büyük model eğitiminin eşiği, sektörde duyurulduğu kadar kolay aşılmıyor. Bir milyar parametre ölçeğinde veya daha büyük bir genel büyük modeli eğitmenin maliyeti, on milyonlarca hatta yüz milyonlarca liraya ulaşabilir. Sektörden bazı kişiler, yüz milyar veya trilyonluk bir finansman desteği olmadan bu alanda uzun vadeli gelişmenin zor olduğunu belirtiyor.

Bu tür bir durumla karşı karşıya kalındığında, sektör genelinde, büyük model pazarındaki rekabetin artmasıyla birlikte, pazarın da coşkulardan rasyonelliğe geçeceği, işletmelerin de beklenen değişikliklere göre maliyetleri kontrol edip stratejilerini ayarlayacağı düşünülmektedir.

Yüksek performanslı GPU kıtlığı sorunuyla başa çıkmak için, işletmeler çeşitli önlemler aldı:

1. Daha yüksek kaliteli verilerle eğitim yaparak eğitim verimliliğini artırın.

2. Altyapı kapasitesini artırmak, 1000 kalori üzerindeki istikrarlı çalışmayı iki hafta boyunca kesintisiz sağlamak.

3. Bilgi İşlem Gücü kartı kaynak dağıtımını optimize et, kullanım verimliliğini artır.

4. Ağ performansını iyileştirin, eğitim hızı ve verimliliğin etkilenmesini önleyin.

5. Bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş yaparak maliyetleri düşürmek.

6. Yerli platformları kullanarak büyük modellerin eğitimini ve çıkarımını gerçekleştirin, Nvidia GPU'larının yerini alın.

Çoğu işletme için, kendi veri merkezini kurmak talebi karşılamakta zorlayıcıdır, bu yüzden birçok algoritma ekibi desteklemek için profesyonel Bilgi İşlem Gücü hizmet sağlayıcılarını tercih etmektedir. Kalori seviyesi GPU kümeleri ölçek etkisi yaratabilir, Bilgi İşlem Gücü hizmet sağlayıcılarını seçmek marjinal maliyetleri azaltabilir.

Bilgi İşlem Gücü, piyasa talebi ve teknoloji iterasyonu sürecinde yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmetinin özü, yeni nesil hesaplama teknolojileri aracılığıyla heterojen bilgi işlem gücünün birleştirilmiş çıktısını sağlamak ve bulut bilişim, büyük veri, AI gibi teknolojilerle entegrasyonudur. Bu sadece bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakların birleşik paketlemesini de içermektedir; hizmet biçiminde ( gibi API ) aracılığıyla bilgi işlem gücü teslimatı gerçekleştirilir.

Güç işlem endüstri zincirinde, yukarı akış işletmeleri esas olarak genel güç işlem, zeka işlem, süper güç işlem, depolama ve ağ gibi temel kaynaklar sağlar. Orta akış işletmeleri, bulut hizmet sağlayıcıları ve yeni nesil güç işlem hizmet sağlayıcılarıyla ağırlıklı olarak, güç işlem düzenleme, planlama ve ticaret teknolojileri aracılığıyla güç işlem üretimi gerçekleştirir ve API gibi yöntemlerle güç işlem sunar. Aşağı akış işletmeleri ise güç işlem hizmetleri tarafından sağlanan hesaplama kapasitesine dayanarak katma değerli hizmetler sunan endüstri zinciri rolüdür.

Hacme dayalı ücretlendirme ve yıllık/aylık paket ücretlendirme, mevcut Bilgi İşlem Gücü hizmetlerinin ana akım modelleridir. Kullanıcılar, ilgili Bilgi İşlem Gücü hizmet örneğini veya MaaS hizmet platformunu seçebilirler. Sektör ayrıca Bilgi İşlem Gücü hizmetlerinin "hesap-ağ entegrasyonu"nu ilerletmektedir, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında planlamayı desteklemektedir.

Yüksek performanslı hesaplama taleplerinin normalleşmesi ile birlikte bulut hizmetlerinden türetilen bilgi işlem gücü hizmetleri hızla kamuoyunun dikkatini çekti ve benzersiz bir endüstri zinciri ve iş modeli oluşturdu. Mevcut yüksek kaliteli GPU kıtlığı "çip kapma" fenomenine yol açsa da, bu sadece geçici bir durumdur. Uzun vadede, bilgi işlem gücünün bir hizmet haline gelmesi kesin bir eğilimdir; bilgi işlem gücü hizmet sağlayıcılarının hazırlıklı olması ve piyasa rüzgarı değiştiğinde stratejilerini zamanında ayarlayabilmesi gerekmektedir.