طريق الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة تحيزات الذكاء الاصطناعي والأوهام
مؤخراً، تم إطلاق شبكة Mira العامة للاختبار، وهدفها هو بناء طبقة ثقة للذكاء الاصطناعي. وقد أثار ذلك تساؤلات حول موثوقية الذكاء الاصطناعي: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف ستقوم Mira بحل هذه المشكلة؟
في مناقشات الذكاء الاصطناعي، غالبًا ما يركز الناس على قوته الكبيرة، ويتجاهلون مشكلة "الأوهام" أو التحيزات الموجودة في الذكاء الاصطناعي. تشير "الأوهام" في الذكاء الاصطناعي إلى أن الذكاء الاصطناعي قد "يؤلف" أحيانًا، ويبدو أنه يفسر بعض الظواهر غير الموجودة بشكل منطقي. على سبيل المثال، عند سؤال الذكاء الاصطناعي عن سبب ظهور القمر باللون الوردي، قد يقدم سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع لا أساس لها.
ظهور "هلاوس" أو تحيزات AI يرتبط بالطريق التكنولوجي الحالي للذكاء الاصطناعي. يحقق الذكاء الاصطناعي التوليدي الاتساق والموثوقية من خلال توقع "المحتوى الأكثر احتمالًا"، لكن هذه الطريقة صعبة التحقق من صحتها. بالإضافة إلى ذلك، يمكن أن تؤثر الأخطاء والتحيزات وحتى المحتويات الخيالية في بيانات التدريب على مخرجات الذكاء الاصطناعي. باختصار، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة ستؤدي تقريبًا بلا شك إلى أوهام الذكاء الاصطناعي. على الرغم من أن هذه المشكلة قد لا تسبب عواقب وخيمة في محتوى المعرفة العامة أو الترفيه، إلا أنها قد تؤثر بشكل كبير في مجالات دقيقة مثل الطب والقانون والطيران والمالية. لذلك، أصبحت معالجة الأوهام والانحيازات في الذكاء الاصطناعي واحدة من القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.
يهدف مشروع ميرا إلى معالجة مشكلات التحيز والأوهام في الذكاء الاصطناعي من خلال بناء طبقة ثقة للذكاء الاصطناعي لتعزيز موثوقيته. الطريقة الأساسية لميرا هي استخدام توافق عدة نماذج من الذكاء الاصطناعي للتحقق من مخرجات الذكاء الاصطناعي. إنه في جوهره شبكة تحقق تستخدم توافق عدة نماذج من الذكاء الاصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن ميرا تعتمد على التحقق من خلال توافق لامركزي.
تتمثل النقطة الأساسية لشبكة ميرا في التحقق من الإجماع اللامركزي، وهو ما يعتبر تخصصاً في مجال التشفير. في الوقت نفسه، تستفيد أيضاً من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والهلوسة.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات من خلال آلية الحوافز/العقوبات الاقتصادية المشفرة لضمان نزاهة مشغلي العقد. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعين معًا لضمان موثوقية نتائج التحقق.
تشمل بنية شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية الإجماع. أولاً، يقوم النظام بتفكيك محتوى المرشح المقدم من العميل إلى بيانات يمكن التحقق منها، ثم يتم توزيعها على العقد للتحقق، وأخيرًا يتم تجميع النتائج للوصول إلى إجماع. لحماية خصوصية العميل، يتم توزيع البيانات على عقد مختلفة بطريقة التجزئة العشوائية.
يكون مشغلو العقد مسؤولين عن تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. تأتي دوافعهم للمشاركة في التحقق من إمكانية تحقيق الأرباح، والتي تأتي من القيمة التي يتم إنشاؤها للعملاء. تهدف شبكة ميرا إلى تقليل معدل الأخطاء في الذكاء الاصطناعي، خاصة في مجالات مثل الرعاية الصحية والقانون والطيران والمالية، مما سيولد قيمة كبيرة. لمنع العقد من الاستجابة بشكل عشوائي، ستتم خصم رموز الرهن من العقد التي تنحرف باستمرار عن الإجماع.
بشكل عام، توفر ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق لامركزية تستند إلى نماذج ذكاء اصطناعي متعددة، مما يوفر خدمات ذكاء اصطناعي أكثر موثوقية للعملاء، ويقلل من تحيزات الذكاء الاصطناعي والأوهام، ويلبي احتياجات العملاء للحصول على دقة وموثوقية أعلى. باختصار، تقوم ميرا ببناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
حالياً، تتعاون ميرا مع العديد من أطر الوكلاء الذكيين. يمكن للمستخدمين المشاركة في شبكة ميرا العامة الاختبارية من خلال كلوق (تطبيق الدردشة المستند إلى LLM من ميرا) لتجربة مخرجات الذكاء الاصطناعي المعتمدة، ولديهم فرصة لكسب نقاط ميرا. لم يتم الإعلان بعد عن الاستخدامات المستقبلية لهذه النقاط، لكنها بلا شك توفر حافزًا إضافيًا لمشاركة المستخدمين.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
شبكة ميرا: بناء طبقة ثقة للذكاء الاصطناعي لحل مشاكل التحيز والوهم
طريق الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة تحيزات الذكاء الاصطناعي والأوهام
مؤخراً، تم إطلاق شبكة Mira العامة للاختبار، وهدفها هو بناء طبقة ثقة للذكاء الاصطناعي. وقد أثار ذلك تساؤلات حول موثوقية الذكاء الاصطناعي: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف ستقوم Mira بحل هذه المشكلة؟
في مناقشات الذكاء الاصطناعي، غالبًا ما يركز الناس على قوته الكبيرة، ويتجاهلون مشكلة "الأوهام" أو التحيزات الموجودة في الذكاء الاصطناعي. تشير "الأوهام" في الذكاء الاصطناعي إلى أن الذكاء الاصطناعي قد "يؤلف" أحيانًا، ويبدو أنه يفسر بعض الظواهر غير الموجودة بشكل منطقي. على سبيل المثال، عند سؤال الذكاء الاصطناعي عن سبب ظهور القمر باللون الوردي، قد يقدم سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع لا أساس لها.
ظهور "هلاوس" أو تحيزات AI يرتبط بالطريق التكنولوجي الحالي للذكاء الاصطناعي. يحقق الذكاء الاصطناعي التوليدي الاتساق والموثوقية من خلال توقع "المحتوى الأكثر احتمالًا"، لكن هذه الطريقة صعبة التحقق من صحتها. بالإضافة إلى ذلك، يمكن أن تؤثر الأخطاء والتحيزات وحتى المحتويات الخيالية في بيانات التدريب على مخرجات الذكاء الاصطناعي. باختصار، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة ستؤدي تقريبًا بلا شك إلى أوهام الذكاء الاصطناعي. على الرغم من أن هذه المشكلة قد لا تسبب عواقب وخيمة في محتوى المعرفة العامة أو الترفيه، إلا أنها قد تؤثر بشكل كبير في مجالات دقيقة مثل الطب والقانون والطيران والمالية. لذلك، أصبحت معالجة الأوهام والانحيازات في الذكاء الاصطناعي واحدة من القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.
يهدف مشروع ميرا إلى معالجة مشكلات التحيز والأوهام في الذكاء الاصطناعي من خلال بناء طبقة ثقة للذكاء الاصطناعي لتعزيز موثوقيته. الطريقة الأساسية لميرا هي استخدام توافق عدة نماذج من الذكاء الاصطناعي للتحقق من مخرجات الذكاء الاصطناعي. إنه في جوهره شبكة تحقق تستخدم توافق عدة نماذج من الذكاء الاصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن ميرا تعتمد على التحقق من خلال توافق لامركزي.
تتمثل النقطة الأساسية لشبكة ميرا في التحقق من الإجماع اللامركزي، وهو ما يعتبر تخصصاً في مجال التشفير. في الوقت نفسه، تستفيد أيضاً من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والهلوسة.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات من خلال آلية الحوافز/العقوبات الاقتصادية المشفرة لضمان نزاهة مشغلي العقد. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعين معًا لضمان موثوقية نتائج التحقق.
تشمل بنية شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية الإجماع. أولاً، يقوم النظام بتفكيك محتوى المرشح المقدم من العميل إلى بيانات يمكن التحقق منها، ثم يتم توزيعها على العقد للتحقق، وأخيرًا يتم تجميع النتائج للوصول إلى إجماع. لحماية خصوصية العميل، يتم توزيع البيانات على عقد مختلفة بطريقة التجزئة العشوائية.
يكون مشغلو العقد مسؤولين عن تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. تأتي دوافعهم للمشاركة في التحقق من إمكانية تحقيق الأرباح، والتي تأتي من القيمة التي يتم إنشاؤها للعملاء. تهدف شبكة ميرا إلى تقليل معدل الأخطاء في الذكاء الاصطناعي، خاصة في مجالات مثل الرعاية الصحية والقانون والطيران والمالية، مما سيولد قيمة كبيرة. لمنع العقد من الاستجابة بشكل عشوائي، ستتم خصم رموز الرهن من العقد التي تنحرف باستمرار عن الإجماع.
بشكل عام، توفر ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق لامركزية تستند إلى نماذج ذكاء اصطناعي متعددة، مما يوفر خدمات ذكاء اصطناعي أكثر موثوقية للعملاء، ويقلل من تحيزات الذكاء الاصطناعي والأوهام، ويلبي احتياجات العملاء للحصول على دقة وموثوقية أعلى. باختصار، تقوم ميرا ببناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
حالياً، تتعاون ميرا مع العديد من أطر الوكلاء الذكيين. يمكن للمستخدمين المشاركة في شبكة ميرا العامة الاختبارية من خلال كلوق (تطبيق الدردشة المستند إلى LLM من ميرا) لتجربة مخرجات الذكاء الاصطناعي المعتمدة، ولديهم فرصة لكسب نقاط ميرا. لم يتم الإعلان بعد عن الاستخدامات المستقبلية لهذه النقاط، لكنها بلا شك توفر حافزًا إضافيًا لمشاركة المستخدمين.