Merkeziyetsizlik eğitimi: AI gelişiminin yeni paradigma keşfi

AI tam değer zincirinde, model eğitimi en fazla kaynak tüketen ve en yüksek teknik engel olan aşamadır; bu, doğrudan modelin yetenek sınırlarını ve gerçek uygulama etkisini belirler. Çıkarım aşamasındaki hafif çağrılarla karşılaştırıldığında, eğitim süreci sürekli büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunlukta optimizasyon algoritması desteği gerektirir; bu, AI sisteminin inşasında gerçek bir "ağır sanayi"dir. Mimari paradigmasından bakıldığında, eğitim yöntemleri dört türe ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede odaklanılan Merkeziyetsizlik eğitimi.

Merkeziyetsiz eğitim, tek bir kuruluşun yerel yüksek performanslı kümeler içinde tüm eğitim sürecini tamamladığı en yaygın geleneksel yöntemdir. Donanım, alt yazılım, küme planlama sistemi ve eğitim çerçevesindeki tüm bileşenler, tek bir kontrol sistemi tarafından koordine bir şekilde çalıştırılır. Bu derin iş birliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır, GPT, Gemini gibi büyük ölçekli modellerin eğitimine oldukça uygundur ve yüksek verimlilik ile kaynak kontrolü avantajına sahiptir. Ancak, veri tekelcilği, kaynak engelleri, enerji tüketimi ve tek nokta riskleri gibi sorunlar da bulunmaktadır.

Dağıtık eğitim, günümüzün büyük model eğitiminde ana akım yöntemdir; temelinde model eğitim görevlerinin parçalanarak birden fazla makineye dağıtılması ve ortak bir şekilde yürütülmesi yatmaktadır. Bu, tek bir makinenin hesaplama ve depolama darboğazını aşmak içindir. Fiziksel olarak "dağıtık" özelliklere sahip olmasına rağmen, genel olarak merkezi bir kurum tarafından kontrol edilen, yönlendirilen ve senkronize edilen bir yapıdadır; genellikle yüksek hızlı yerel alan ağları ortamında çalışmaktadır. NVLink yüksek hızlı bağlantı teknolojisi ile ana düğüm, alt görevleri tek bir merkezden koordine etmektedir. Ana akım yöntemler arasında şunlar bulunmaktadır:

• Veri paralelliği: Her düğüm farklı veri parametreleri ile eğitim yapar, model ağırlıklarının eşleşmesi gerekir.
• Model paralelliği: Modelin farklı bölümlerini farklı düğümlere dağıtarak güçlü bir ölçeklenebilirlik sağlamak.
• Boru hattı paralelliği: Aşamalı seri yürütme, verimliliği artırır.
• Tensör paralelliği: Matris hesaplamalarını ince bir şekilde bölerek paralel granulariteyi artırma

Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur, aynı patronun uzaktan birçok "ofis" çalışanını koordine ederek görevleri tamamlamasına benzetilebilir. Şu anda neredeyse tüm ana akım büyük modeller (GPT-4, Gemini, LLaMA gibi ) bu yöntemle eğitilmektedir.

Merkeziyetsizlik eğitimi, daha açık ve sansüre dayanıklı bir geleceği temsil eder. Temel özellikleri şunlardır: Birbirine güvenmeyen birden fazla düğüm ( ev bilgisayarları, bulut GPU'ları veya kenar cihazları ) merkezi bir koordinatör olmadan eğitim görevlerini iş birliği içinde tamamlayabilir; genellikle protokoller aracılığıyla görev dağıtımı ve iş birliği sağlanır ve katkının dürüstlüğünü sağlamak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı başlıca zorluklar şunlardır:

• Cihaz heterojenliği ve parçalama zorluğu: Heterojen cihazların koordinasyonu zor, görev parçalama verimliliği düşük
• İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyon darboğazı belirgin
• Güvenilir yürütme eksikliği: Güvenilir yürütme ortamının olmaması, düğümlerin gerçekten hesaplamaya katılıp katılmadığını doğrulamayı zorlaştırır.
• Birlikte koordine eksikliği: Merkezi bir denetleyici yok, görev dağıtımı, hata geri alma mekanizması karmaşık

Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, her birinin model eğitimi için hesaplama gücü katkısında bulunduğu bir işbirliği olarak anlaşılabilir. Ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsiz eğitim" hala sistematik bir mühendislik zorluğudur ve sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulama gibi birçok boyutu içermektedir. Bununla birlikte, "işbirliği etkili + dürüstlüğü teşvik etme + sonuçların doğru olması" meselesi hala erken prototip keşif aşamasındadır.

Federated öğrenme, dağıtık ve Merkeziyetsizlik arasında bir geçiş biçimi olarak, verilerin yerel olarak saklanmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular. Bu, sağlık, finans gibi gizlilik uyumuna önem veren senaryolar için uygundur (. Federated öğrenme, dağıtık eğitim mühendislik yapısına ve yerel iş birliği yeteneğine sahiptir, aynı zamanda merkeziyetsiz eğitimde verilerin dağınık olmasının avantajlarını da taşır. Ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı özelliklere sahip değildir. Gizlilik uyum senaryolarında "kontrollü merkeziyetsizlik" çözümü olarak düşünülebilir, eğitim görevleri, güven yapısı ve iletişim mekanizmaları açısından nispeten ılımlıdır ve endüstriyel geçiş dağıtım yapısı olarak daha uygundur.

![Crypto AI'nin Kutsal Kâsesi: Merkeziyetsizlik Eğitimindeki Sınırları Zorlamak])https://img-cdn.gateio.im/webp-social/moments-adb92bc4dfbaf26863cb0b4bb1081cd7.webp(

Merkeziyetsizlik eğitiminde sınırlar, fırsatlar ve gerçek yollar

Eğitim paradigmaları açısından, Merkeziyetsizlik eğitimi her görev türü için uygun değildir. Bazı senaryolarda, görev yapısının karmaşık olması, kaynak gereksinimlerinin son derece yüksek olması veya işbirliği zorluğunun büyük olması nedeniyle, doğal olarak heterojen, güvenilir olmayan düğümler arasında verimli bir şekilde tamamlanması zordur. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliği gerektirir, bu da açık ağda etkili bir şekilde bölünmesini ve senkronizasyonunu zorlaştırır; veri gizliliği ve egemenlik kısıtlamalarının güçlü olduğu görevler ), tıbbi, finansal veya gizli veriler (, yasal uyumluluk ve etik kısıtlamalar nedeniyle açık paylaşım yapılamaz; işbirliği teşvik temeli eksik olan görevler ), şirket kapalı kaynak modelleri veya dahili prototip eğitimi ( dış katılım motivasyonundan yoksundur. Bu sınırlar, mevcut Merkeziyetsizlik eğitimindeki gerçek kısıtlamaları oluşturur.

Ancak bu, merkeziyetsizlik eğitimlerinin sahte bir kavram olduğu anlamına gelmez. Aslında, yapısal olarak hafif, kolay paralel hale getirilebilen ve teşvik edilebilir görev türlerinde, merkeziyetsizlik eğitimi belirgin bir uygulama perspektifi göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış hizalama sonrası eğitim görevleri ) (RLHF, DPO ( gibi), veri kalabalık eğitim ve etiketleme görevleri, kaynak kontrol edilebilir küçük temel model eğitimi ve kenar cihazların katıldığı işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlılık ve heterojen hesap gücüne tolerans özelliklerine sahiptir ve P2P ağlar, Swarm protokolleri, dağıtık optimizatörler gibi yöntemlerle işbirlikçi eğitim için son derece uygundur.

![Crypto AI'nin Kutsal Kâsesi: Merkeziyetsizlik Eğitimi Üzerine Sınırları Zorlamak])https://img-cdn.gateio.im/webp-social/moments-69eb6c2dab3d6284b890285c71e7a47f.webp(

Merkeziyetsizlik Eğitim Klasik Proje Analizi

Şu anda Merkeziyetsizlik eğitim ve federatif öğrenme öncülük alanında, temsilci blok zinciri projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io yer almaktadır. Teknik yenilikçilik ve mühendislik gerçekleştirme zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai sistem mimarisi ve algoritma tasarımı konusunda oldukça fazla özgün keşif önermiş ve mevcut teorik araştırmanın öncülük yönlerini temsil etmektedir; Gensyn ve Flock.io'nun gerçekleştirme yolları ise nispeten net olup, ilk mühendislik ilerlemeleri görülmektedir. Bu makalede, bu beş projenin arkasındaki temel teknolojiler ve mühendislik mimarileri sırayla analiz edilecek ve Merkeziyetsizlik AI eğitim sistemindeki farklılıkları ve tamamlayıcılık ilişkileri daha fazla tartışılacaktır.

![Crypto AI'nin Kutsal Kasesi: Merkeziyetsizlikle Eğitimdeki Sınırları Zorlamak])https://img-cdn.gateio.im/webp-social/moments-b11af8d10db6e8baa0c19e87aa18dd82.webp(

) Prime Intellect: Eğitim izleri doğrulanabilir pekiştirmeli öğrenme iş birliği ağı öncüsü

Prime Intellect, güvene gerek duymayan bir AI eğitim ağı inşa etmeye kendini adamıştır, böylece herkes eğitime katılabilir ve hesaplama katkıları için güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST üç ana modülü aracılığıyla, doğrulanabilir, açık ve teşvik mekanizması tam olan bir AI merkeziyetsiz eğitim sistemi inşa etmeyi hedeflemektedir.

01, Prime Intellect protokol yığını yapısı ve ana modül değerleri

![Crypto AI'nin Kutsal Kasesi: Merkeziyetsizlik Eğitiminin Sınırları]###https://img-cdn.gateio.im/webp-social/moments-0a322ea8b70c3d00d8d99606559c1864.webp(

)# 02, Prime Intellect eğitiminin ana mekanizmalarının ayrıntılı açıklaması

#PRIME-RL: Decoupled Asynchronous Reinforcement Learning Task Architecture

PRIME-RL, Prime Intellect tarafından merkeziyetsizlik için özelleştirilmiş bir görev modelleme ve yürütme çerçevesidir ve heterojen ağlar ile asenkron katılım için tasarlanmıştır. Güçlendirilmiş öğrenmeyi öncelikli uyum nesnesi olarak kullanır, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız bir görev döngüsünü tamamlayabilir ve standart arayüzler aracılığıyla doğrulama ve toplama mekanizmalarıyla işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL merkezi bir planlama ortamında esnek eğitim gerçekleştirmek için daha uygundur; bu, sistem karmaşıklığını azaltır ve çoklu görev paralelliği ile strateji evrimi için bir temel oluşturur.

#TOPLOC:Ağırlıksız eğitim davranışı doğrulama mekanizması

TOPLOC###Güvenilir Gözlem & Politika-Yerelleştirme Kontrolü(, Prime Intellect tarafından önerilen, bir düğümün gerçekten gözlem verilerine dayanarak etkili bir strateji öğrenimi gerçekleştirip gerçekleştirmediğini belirlemek için kullanılan eğitilebilir doğrulama çekirdek mekanizmasıdır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC tam model yeniden hesaplamasına dayanmaz, bunun yerine "gözlem dizisi↔strateji güncelleme" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulamasını tamamlar. Eğitimin ilk kez davranış izlerini doğrulanabilir nesnelere dönüştürmesi, güvene dayanmayan eğitim ödül dağıtımını gerçekleştirmenin anahtar yeniliğidir ve denetlenebilir, teşvik edici bir Merkeziyetsizlik işbirlikçi eğitim ağı inşa etmek için uygulanabilir bir yol sunar.

#SHARDCAST: Asenkron Ağırlık Toplama ve Yayılma Protokolü

SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve toplama protokolüdür ve gerçek ağ ortamları için asenkron, bant genişliği sınırlı ve düğüm durumu değişkenliğine yönelik optimize edilmiştir. Gossip yayılım mekanizması ile yerel senkronizasyon stratejilerini birleştirerek, birden fazla düğümün senkronize olmayan durumlarda sürekli olarak kısmi güncellemeler göndermesine olanak tanır, bu da ağırlıkların kademeli yakınsaması ve çoklu sürüm evrimi sağlar. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST merkeziyetsiz eğitimin ölçeklenebilirliğini ve hata toleransını belirgin şekilde artırır ve istikrarlı ağırlık konsensüsü ile sürekli eğitim iterasyonlarının inşası için temel bir altyapıdır.

#OpenDiLoCo:Seyrek Asenkron İletişim Çerçevesi

OpenDiLoCo, Prime Intellect ekibinin DeepMind tarafından önerilen DiLoCo fikrini bağımsız olarak gerçekleştirdiği ve açık kaynak olarak sunduğu bir iletişim optimizasyon çerçevesidir. Özellikle merkeziyetsiz eğitimde sık karşılaşılan bant genişliği kısıtlamaları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için tasarlanmıştır. Mimarı, veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları oluşturarak, küresel senkronizasyonun yüksek iletişim maliyetlerinden kaçınmakta ve yalnızca yerel komşu düğümlere dayanarak model iş birliği eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesinti tolerans mekanizması ile bir araya getirildiğinde, OpenDiLoCo, tüketici düzeyindeki GPU'ların ve kenar cihazlarının eğitim görevlerine istikrarlı bir şekilde katılmasını sağlar ve bu da küresel iş birliği eğitiminin katılımını önemli ölçüde artırır. Bu, merkeziyetsiz eğitim ağlarını inşa etmenin temel iletişim altyapılarından biridir.

#PCCL: İşbirliği İletişim Kütüphanesi

PCCL)Prime Collective Communication Library(, merkeziyetsizlik AI eğitim ortamı için Prime Intellect tarafından özel olarak tasarlanmış hafif bir iletişim kütüphanesidir. Geleneksel iletişim kütüphanelerinin), NCCL, Gloo( gibi heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojiyi, gradyan sıkıştırmayı, düşük hassasiyet senkronizasyonunu ve kesintiden kurtarmayı destekler; tüketici seviyesindeki GPU'larda ve istikrarsız düğümlerde çalışabilir. OpenDiLoCo protokolünün asenkron iletişim yeteneklerini destekleyen alt bileşendir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırarak, gerçekten açık ve güvene dayalı olmayan işbirlikçi eğitim ağını kurmanın "son bir mil" iletişim alt yapısını sağlamaktadır.

![Crypto AI'nin Kutsal Kâsesi: Merkeziyetsizlik eğitiminde öncü keşif])https://img-cdn.gateio.im/webp-social/moments-f86b109da66a0a4c9239221650a4a0a8.webp(

)# 03, Prime Intellect teşvik ağı ve rol dağılımı

Prime Intellect, herkesin görevlere katılmasına ve gerçek katkılara dayalı ödüller kazanmasına olanak tanıyan, izin gerektirmeyen, doğrulanabilir ve ekonomik teşvik mekanizmasına sahip bir eğitim ağı inşa etti. Protokol, üç ana rol temelinde çalışmaktadır:

• Görev başlatıcısı: Eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlar
• Eğitim Düğümleri: Yerel eğitim gerçekleştirme, ağırlık güncellemelerini gönderme ve gözlem izlerini takip etme
• Doğrulama Düğümü: Eğitim davranışının doğruluğunu TOPLOC mekanizmasıyla doğrulayarak ödül hesaplamasına ve strateji birleştirmeye katılır.

Protokolün ana akışı, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ###SHARDCAST( ve ödül dağıtımını içerir, " etrafında bir yapı oluşturur.