OPML: Технології машинного навчання на основі оптимістичного підходу

OPML(Оптимістичне машинне навчання) є новою технологією, яка використовує оптимістичні методи для проведення інференції та навчання/доладнання AI моделей у блокчейн-системах. На відміну від ZKML, OPML може забезпечити більш низькі витрати та вищу ефективність послуг машинного навчання. Однією з великих переваг OPML є його низькі вимоги до участі - в даний час звичайний ПК може працювати з великими мовними моделями(, такими як 26 ГБ 7B-LLaMA), без необхідності в GPU.

OPML використовує механізм верифікації ігор для забезпечення децентралізації та верифікованого консенсусу ML-сервісів. Його робочий процес виглядає наступним чином:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер завершив завдання та надіслав результати в ланцюг
3. Валідатори перевіряють результати
4. У випадку суперечки, точно визначте помилки через двосторонній договір.
5. Арбітраж окремого кроку в смарт-контракті

! OPML: Машинне навчання з Optimistic Rollup

Одноетапна верифікаційна гра

Основою гри з одноетапною перевіркою є протокол точного позиціонування, який працює аналогічно обчисленню делегування (RDoC). Основні характеристики включають:

• Побудова віртуальної машини (VM) для позамережевого виконання та арбітражу в мережі
• Реалізувати легковагову бібліотеку DNN для підвищення ефективності інференції AI моделей
• Використання технології крос-компіляції для компіляції коду висновку AI моделі в інструкції VM
• Використання дерева Меркла для управління VM-образами, лише корінь Меркла завантажується в ланцюг

У тестуванні продуктивності базова AI модель ( MNIST класифікаційна DNN модель ) може завершити інференцію за 2 секунди на віртуальній машині на ПК, а весь процес виклику може бути завершений за 2 хвилини в локальному тестовому середовищі Ethereum.

! OPML: Машинне навчання з оптимістичною системою зведення

Багатоступенева верифікація гри

Щоб подолати обмеження одностадійної верифікаційної гри, ми запропонували багатоступеневу верифікаційну гру:

• Обчислення проводяться лише на останньому етапі у VM
• Інші етапи можуть бути гнучко виконані в локальному середовищі, повною мірою використовуючи апаратні ресурси CPU, GPU, TPU тощо
• Значно підвищити продуктивність виконання OPML, наблизившись до рівня локального середовища

Як приклад гри з двоступеневою перевіркою (k=2):

1. Другий етап: подібно до одностадійної верифікаційної гри, визначення спірних етапів на "великій інструкції"
2. Перший етап: виявлення суперечливих кроків у мікрокомандах VM

Забезпечення цілісності та безпеки перетворень між етапами за допомогою дерева Меркла.

Багатоступеневий приклад OPML: Модель LLaMA

Модель LLaMA використовує двофазний метод OPML:

1. Представити процес обчислення глибокої нейронної мережі (DNN) у вигляді обчислювального графа G
2. Проведення верифікаційної гри другого етапу на обчислювальній графіці, використовуючи багатопотоковий ЦП або ГП.
3. Перший етап перетворює обчислення окремого вузла на команди VM

Для більш складних обчислень можна ввести багатоступеневий метод OPML з двома або більше етапами.

! OPML: Машинне навчання з Optimistic Rollup

Аналіз покращення продуктивності

Припустимо, що обчислювальний граф має n вузлів, кожен вузол потребує m мікінструкцій VM, прискорення GPU або паралельних обчислень дорівнює α:

1. Двохетапний OPML швидший за одноетапний OPML у α разів
2. Розмір меркл-дерева двоступеневої OPML дорівнює O(m+n), що значно менше, ніж одноступенева OPML O(mn).

Гарантія узгодженості та визначеності

Щоб забезпечити узгодженість результатів ML, OPML використовує:

1. Алгоритм фіксованої точки ( технологія квантизації ): використання фіксованої точності замість чисел з плаваючою комою
2. Бібліотека з плаваючою комою на основі програмного забезпечення: забезпечення узгодженості між платформами

Ці методи ефективно вирішують проблеми, пов'язані з плаваючими змінними та відмінностями платформ, підвищуючи надійність обчислень OPML.

! OPML: Машинне навчання з оптимістичною системою зведення