Дорога довіри штучного інтелекту: як мережа Mira вирішує проблеми упередженості та ілюзій штучного інтелекту
Нещодавно публічна тестова мережа Mira офіційно запустилася, її мета - створення рівня довіри для ШІ. Це викликало роздуми про надійність ШІ: чому ШІ потрібно довіряти? Яким чином Mira вирішить цю проблему?
У дискусіях про ШІ люди часто більше зосереджуються на його потужних можливостях, ігноруючи проблему "ілюзій" або упереджень, які існують у ШІ. "Ілюзії" ШІ означають, що іноді ШІ може "винаходити" відповіді, намагаючись логічно пояснити деякі неіснуючі явища. Наприклад, якщо запитати ШІ, чому місяць має рожевий колір, воно може запропонувати ряд виглядом розумних, але насправді безпідставних пояснень.
Поява "галюцинацій" або упереджень у ШІ пов'язана з сучасними шляхами розвитку технологій ШІ. Генеративний ШІ досягає зв'язності та раціональності, прогнозуючи "найімовірніше" вміст, але цей метод важко перевірити на справжність. Крім того, помилки, упередження чи навіть вигадані дані в навчальних даних також можуть впливати на результати ШІ. Іншими словами, ШІ вчиться мовним патернам людей, а не самим фактам.
Використання поточного механізму генерації ймовірностей та даних майже неминуче призводить до ілюзій штучного інтелекту. Хоча в загальних знаннях або розважальному контенті ця проблема тимчасово не призводить до серйозних наслідків, у таких високотехнологічних сферах, як медицина, право, авіація, фінанси, це може мати значний вплив. Тому вирішення проблеми ілюзій та упереджень штучного інтелекту стає одним із ключових питань у процесі його розвитку.
Проект Mira має на меті вирішити проблеми упередженості та ілюзій в ШІ, підвищуючи надійність ШІ шляхом створення довірчого рівня для ШІ. Основний метод Mira полягає в використанні консенсусу кількох моделей ШІ для перевірки виходу ШІ. Він по суті є мережею перевірки, яка використовує консенсус кількох моделей ШІ для перевірки надійності виходу ШІ. Що ще важливіше, Mira використовує децентралізований консенсус для перевірки.
Ключем мережі Mira є децентралізована перевірка консенсусу, що є спеціалізацією криптографічної сфери. Водночас вона також використовує переваги багатомодельної кооперації, зменшуючи упередженість та ілюзії за допомогою колективних моделей перевірки.
У сфері верифікаційної архітектури протокол Mira підтримує перетворення складного контенту на незалежні верифікаційні заяви. Оператори вузлів беруть участь у верифікації цих заяв, забезпечуючи чесність операторів вузлів за допомогою механізму економічних стимулів/покарань. Різні моделі ШІ та дистрибутивні оператори вузлів спільно беруть участь для забезпечення надійності результатів верифікації.
Мережна архітектура Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу. Спочатку система розбиває подані клієнтом кандидатні матеріали на верифіковані заяви, потім розподіляє їх до вузлів для перевірки, і нарешті підсумовує результати для досягнення консенсусу. Щоб захистити конфіденційність клієнтів, заяви будуть розподілені між різними вузлами випадковими фрагментами.
Оператори вузлів відповідають за запуск моделей валідації, обробку заявок та подання результатів валідації. Їхня мотивація брати участь у валідації походить від можливості отримання прибутку, який виникає від створення цінності для клієнтів. Мережа Mira має на меті знизити рівень помилок штучного інтелекту, особливо в таких сферах, як охорона здоров'я, право, авіація, фінанси, що принесе величезну цінність. Щоб запобігти випадковій реакції вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини своїх закладених токенів.
В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ: створення децентралізованої мережі консенсусної верифікації на основі багатьох моделей ШІ, що забезпечує вищу надійність сервісів ШІ для клієнтів, знижує упередженість та ілюзії ШІ, відповідаючи потребам клієнтів у вищій точності та точності. Іншими словами, Mira будує рівень довіри для ШІ, що сприятиме глибшому розвитку застосувань ШІ.
Наразі Mira співпрацює з кількома фреймворками AI agent. Користувачі можуть взяти участь у публічній тестовій мережі Mira через Klok (додаток для чату на базі LLM Mira), відчути перевірені AI результати та отримати можливість заробити бали Mira. Майбутнє використання цих балів ще не оголошено, але безсумнівно це забезпечує додатковий стимул для участі користувачів.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Mira мережа: створення довірчого рівня AI для вирішення проблем упередженості та ілюзій
Дорога довіри штучного інтелекту: як мережа Mira вирішує проблеми упередженості та ілюзій штучного інтелекту
Нещодавно публічна тестова мережа Mira офіційно запустилася, її мета - створення рівня довіри для ШІ. Це викликало роздуми про надійність ШІ: чому ШІ потрібно довіряти? Яким чином Mira вирішить цю проблему?
У дискусіях про ШІ люди часто більше зосереджуються на його потужних можливостях, ігноруючи проблему "ілюзій" або упереджень, які існують у ШІ. "Ілюзії" ШІ означають, що іноді ШІ може "винаходити" відповіді, намагаючись логічно пояснити деякі неіснуючі явища. Наприклад, якщо запитати ШІ, чому місяць має рожевий колір, воно може запропонувати ряд виглядом розумних, але насправді безпідставних пояснень.
Поява "галюцинацій" або упереджень у ШІ пов'язана з сучасними шляхами розвитку технологій ШІ. Генеративний ШІ досягає зв'язності та раціональності, прогнозуючи "найімовірніше" вміст, але цей метод важко перевірити на справжність. Крім того, помилки, упередження чи навіть вигадані дані в навчальних даних також можуть впливати на результати ШІ. Іншими словами, ШІ вчиться мовним патернам людей, а не самим фактам.
Використання поточного механізму генерації ймовірностей та даних майже неминуче призводить до ілюзій штучного інтелекту. Хоча в загальних знаннях або розважальному контенті ця проблема тимчасово не призводить до серйозних наслідків, у таких високотехнологічних сферах, як медицина, право, авіація, фінанси, це може мати значний вплив. Тому вирішення проблеми ілюзій та упереджень штучного інтелекту стає одним із ключових питань у процесі його розвитку.
Проект Mira має на меті вирішити проблеми упередженості та ілюзій в ШІ, підвищуючи надійність ШІ шляхом створення довірчого рівня для ШІ. Основний метод Mira полягає в використанні консенсусу кількох моделей ШІ для перевірки виходу ШІ. Він по суті є мережею перевірки, яка використовує консенсус кількох моделей ШІ для перевірки надійності виходу ШІ. Що ще важливіше, Mira використовує децентралізований консенсус для перевірки.
Ключем мережі Mira є децентралізована перевірка консенсусу, що є спеціалізацією криптографічної сфери. Водночас вона також використовує переваги багатомодельної кооперації, зменшуючи упередженість та ілюзії за допомогою колективних моделей перевірки.
У сфері верифікаційної архітектури протокол Mira підтримує перетворення складного контенту на незалежні верифікаційні заяви. Оператори вузлів беруть участь у верифікації цих заяв, забезпечуючи чесність операторів вузлів за допомогою механізму економічних стимулів/покарань. Різні моделі ШІ та дистрибутивні оператори вузлів спільно беруть участь для забезпечення надійності результатів верифікації.
Мережна архітектура Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу. Спочатку система розбиває подані клієнтом кандидатні матеріали на верифіковані заяви, потім розподіляє їх до вузлів для перевірки, і нарешті підсумовує результати для досягнення консенсусу. Щоб захистити конфіденційність клієнтів, заяви будуть розподілені між різними вузлами випадковими фрагментами.
Оператори вузлів відповідають за запуск моделей валідації, обробку заявок та подання результатів валідації. Їхня мотивація брати участь у валідації походить від можливості отримання прибутку, який виникає від створення цінності для клієнтів. Мережа Mira має на меті знизити рівень помилок штучного інтелекту, особливо в таких сферах, як охорона здоров'я, право, авіація, фінанси, що принесе величезну цінність. Щоб запобігти випадковій реакції вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини своїх закладених токенів.
В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ: створення децентралізованої мережі консенсусної верифікації на основі багатьох моделей ШІ, що забезпечує вищу надійність сервісів ШІ для клієнтів, знижує упередженість та ілюзії ШІ, відповідаючи потребам клієнтів у вищій точності та точності. Іншими словами, Mira будує рівень довіри для ШІ, що сприятиме глибшому розвитку застосувань ШІ.
Наразі Mira співпрацює з кількома фреймворками AI agent. Користувачі можуть взяти участь у публічній тестовій мережі Mira через Klok (додаток для чату на базі LLM Mira), відчути перевірені AI результати та отримати можливість заробити бали Mira. Майбутнє використання цих балів ще не оголошено, але безсумнівно це забезпечує додатковий стимул для участі користувачів.