Jalan Kepercayaan AI: Bagaimana Jaringan Mira Menyelesaikan Masalah Bias dan Ilusi AI
Baru-baru ini, jaringan publik Mira resmi diluncurkan, dengan tujuan membangun lapisan kepercayaan untuk AI. Ini memicu pemikiran tentang keandalan AI: mengapa AI perlu dipercaya? Bagaimana Mira akan menyelesaikan masalah ini?
Dalam diskusi AI, orang sering kali lebih memperhatikan kemampuan kuatnya, sementara mengabaikan masalah "ilusi" atau bias yang ada pada AI. "Ilusi" AI mengacu pada ketika AI kadang-kadang "mengarang", memberikan penjelasan yang tampak masuk akal tentang fenomena yang tidak ada. Misalnya, ketika ditanya mengapa bulan berwarna pink, AI mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Kemunculan "ilusi" atau bias pada AI terkait dengan jalur teknologi AI saat ini. AI generatif mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi pendekatan ini sulit untuk memverifikasi kebenarannya. Selain itu, kesalahan, bias, bahkan konten fiktif dalam data pelatihan juga dapat mempengaruhi output AI. Singkatnya, AI belajar pola bahasa manusia, bukan fakta itu sendiri.
Mekanisme pembangkitan probabilitas saat ini dan model berbasis data hampir tidak terhindarkan menyebabkan ilusi AI. Meskipun dalam pengetahuan umum atau konten hiburan, masalah ini tidak akan menyebabkan konsekuensi serius dalam jangka pendek, di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat memiliki dampak yang signifikan. Oleh karena itu, menangani ilusi AI dan bias menjadi salah satu masalah inti dalam proses pengembangan AI.
Proyek Mira berfokus pada penyelesaian masalah bias dan ilusi AI, dengan membangun lapisan kepercayaan AI untuk meningkatkan keandalan AI. Metode inti Mira adalah memanfaatkan konsensus dari beberapa model AI untuk memverifikasi output AI. Ini pada dasarnya adalah jaringan verifikasi yang menggunakan konsensus dari beberapa model AI untuk memverifikasi keandalan output AI. Yang lebih penting, Mira menerapkan konsensus terdesentralisasi untuk verifikasi.
Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi, yang merupakan keahlian di bidang kripto. Pada saat yang sama, ia juga memanfaatkan keuntungan dari kolaborasi multi-model, dengan menggunakan pola verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node terlibat dalam memverifikasi pernyataan ini, dengan mekanisme insentif/hukuman ekonomi kripto untuk memastikan kejujuran operator node. Berbagai model AI dan operator node terdistribusi berkolaborasi untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan oleh klien menjadi pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi, dan akhirnya mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi klien, pernyataan akan didistribusikan ke node yang berbeda dengan cara pengacakan.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim dan mengirimkan hasil verifikasi. Motivasi mereka untuk berpartisipasi dalam verifikasi berasal dari potensi untuk mendapatkan imbalan, yang berasal dari nilai yang diciptakan untuk klien. Jaringan Mira bertujuan untuk mengurangi tingkat kesalahan AI, terutama di bidang medis, hukum, penerbangan, dan keuangan, yang akan menghasilkan nilai yang besar. Untuk mencegah node merespons secara acak, node yang terus menyimpang dari konsensus akan dikenakan pengurangan token yang dipertaruhkan.
Secara keseluruhan, Mira menawarkan pendekatan baru untuk memastikan keandalan AI: membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan berbagai model AI, memberikan keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi permintaan pelanggan akan akurasi dan presisi yang lebih tinggi. Singkatnya, Mira sedang membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan mendalam aplikasi AI.
Saat ini, Mira telah menjalin kerjasama dengan beberapa kerangka agen AI. Pengguna dapat berpartisipasi dalam jaringan uji publik Mira melalui Klok (aplikasi obrolan LLM berbasis Mira), merasakan keluaran AI yang telah terverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Penggunaan poin ini di masa depan belum diumumkan, tetapi tentu saja memberikan insentif tambahan bagi pengguna untuk berpartisipasi.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Mira Network: Membangun Lapisan Kepercayaan AI untuk Mengatasi Masalah Bias dan Ilusi
Jalan Kepercayaan AI: Bagaimana Jaringan Mira Menyelesaikan Masalah Bias dan Ilusi AI
Baru-baru ini, jaringan publik Mira resmi diluncurkan, dengan tujuan membangun lapisan kepercayaan untuk AI. Ini memicu pemikiran tentang keandalan AI: mengapa AI perlu dipercaya? Bagaimana Mira akan menyelesaikan masalah ini?
Dalam diskusi AI, orang sering kali lebih memperhatikan kemampuan kuatnya, sementara mengabaikan masalah "ilusi" atau bias yang ada pada AI. "Ilusi" AI mengacu pada ketika AI kadang-kadang "mengarang", memberikan penjelasan yang tampak masuk akal tentang fenomena yang tidak ada. Misalnya, ketika ditanya mengapa bulan berwarna pink, AI mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Kemunculan "ilusi" atau bias pada AI terkait dengan jalur teknologi AI saat ini. AI generatif mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi pendekatan ini sulit untuk memverifikasi kebenarannya. Selain itu, kesalahan, bias, bahkan konten fiktif dalam data pelatihan juga dapat mempengaruhi output AI. Singkatnya, AI belajar pola bahasa manusia, bukan fakta itu sendiri.
Mekanisme pembangkitan probabilitas saat ini dan model berbasis data hampir tidak terhindarkan menyebabkan ilusi AI. Meskipun dalam pengetahuan umum atau konten hiburan, masalah ini tidak akan menyebabkan konsekuensi serius dalam jangka pendek, di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat memiliki dampak yang signifikan. Oleh karena itu, menangani ilusi AI dan bias menjadi salah satu masalah inti dalam proses pengembangan AI.
Proyek Mira berfokus pada penyelesaian masalah bias dan ilusi AI, dengan membangun lapisan kepercayaan AI untuk meningkatkan keandalan AI. Metode inti Mira adalah memanfaatkan konsensus dari beberapa model AI untuk memverifikasi output AI. Ini pada dasarnya adalah jaringan verifikasi yang menggunakan konsensus dari beberapa model AI untuk memverifikasi keandalan output AI. Yang lebih penting, Mira menerapkan konsensus terdesentralisasi untuk verifikasi.
Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi, yang merupakan keahlian di bidang kripto. Pada saat yang sama, ia juga memanfaatkan keuntungan dari kolaborasi multi-model, dengan menggunakan pola verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node terlibat dalam memverifikasi pernyataan ini, dengan mekanisme insentif/hukuman ekonomi kripto untuk memastikan kejujuran operator node. Berbagai model AI dan operator node terdistribusi berkolaborasi untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan oleh klien menjadi pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi, dan akhirnya mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi klien, pernyataan akan didistribusikan ke node yang berbeda dengan cara pengacakan.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim dan mengirimkan hasil verifikasi. Motivasi mereka untuk berpartisipasi dalam verifikasi berasal dari potensi untuk mendapatkan imbalan, yang berasal dari nilai yang diciptakan untuk klien. Jaringan Mira bertujuan untuk mengurangi tingkat kesalahan AI, terutama di bidang medis, hukum, penerbangan, dan keuangan, yang akan menghasilkan nilai yang besar. Untuk mencegah node merespons secara acak, node yang terus menyimpang dari konsensus akan dikenakan pengurangan token yang dipertaruhkan.
Secara keseluruhan, Mira menawarkan pendekatan baru untuk memastikan keandalan AI: membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan berbagai model AI, memberikan keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi permintaan pelanggan akan akurasi dan presisi yang lebih tinggi. Singkatnya, Mira sedang membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan mendalam aplikasi AI.
Saat ini, Mira telah menjalin kerjasama dengan beberapa kerangka agen AI. Pengguna dapat berpartisipasi dalam jaringan uji publik Mira melalui Klok (aplikasi obrolan LLM berbasis Mira), merasakan keluaran AI yang telah terverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Penggunaan poin ini di masa depan belum diumumkan, tetapi tentu saja memberikan insentif tambahan bagi pengguna untuk berpartisipasi.