# OPML:楽観的なアプローチに基づく機械学習技術OPML(楽観的機械学習)は、新興の技術であり、楽観主義的アプローチを利用してブロックチェーンシステム上でAIモデルの推論とトレーニング/ファインチューニングを行います。ZKMLと比較して、OPMLはより低コストでより高効率なMLサービスを提供できます。OPMLの大きな利点は、その低い参加要件です - 現在、一般的なPCはGPUなしで、26GBサイズの7B-LLaMA(のような大規模言語モデルを含むOPMLを実行できます。OPMLは、MLサービスの分散化と検証可能なコンセンサスを確保するために、検証ゲームメカニズムを採用しています。そのワークフローは次のとおりです:1. リクエスターがMLサービスタスクを開始する2. サーバーはタスクを完了し、結果をチェーンに提出します3. バリデーターは結果を検証します4. 争議がある場合は、二分法により誤ったステップを正確に特定する。5. スマートコントラクト上での単一ステップの仲裁! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/social/moments-97100de5d65b1bb4dfc9ad6502195b59(## シングルステージ検証ゲーム単段階検証ゲームの核心は、正確な位置決めプロトコルであり、その動作原理は計算委任)RDoC(に似ています。主な特徴は次のとおりです:- バーチャルマシン)VM(を構築して、オフチェーン実行とオンチェーン仲裁に使用します- 軽量級DNNライブラリを実現してAIモデルの推論効率を向上させる- クロスコンパイル技術を使用してAIモデル推論コードをVM命令にコンパイルする- メルケルツリーを使用してVMイメージを管理し、メルケルルートのみをチェーンにアップロードします。性能テストでは、基本的なAIモデル)MNIST分類DNNモデル(がPCのVM内で2秒で推論を完了し、全体のチャレンジプロセスはローカルのイーサリアムテスト環境で2分以内に完了できます。! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/social/moments-e798407b4f5f3dd6dc7d8327db07eb20(## マルチステージ検証ゲーム単一段階検証ゲームの限界を克服するために、私たちは多段階検証ゲームを提案しました:- 最後の段階でのみVM内で計算を行う- 他の段階はローカル環境で柔軟に実行でき、CPU、GPU、TPUなどのハードウェアリソースを十分に活用します。- OPMLの実行性能を著しく向上させ、ローカル環境のレベルに近づける2段階)k=2(での検証ゲームの例:1. 第2段階: 単一段階検証ゲームに似ており、「大指令」における論争のステップを特定する2. 第1段階: VMマイクロ命令における争点ステップメルクルツリーを通じて、段階間の変換の完全性と安全性を確保する。! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/social/moments-3f290bc2a1acee40d4e71fbf35ee5079(## マルチステージOPMLの例:LLaMAモデル LLaMAモデルは二段階のOPML手法を採用しています:1. 深層ニューラルネットワーク)DNN(の計算プロセスを計算グラフGとして表現する2. 計算グラフ上で第2段階の検証ゲームを行い、マルチスレッドCPUまたはGPUを利用する3. 第一段階では、単一ノードの計算をVM命令に変換します。より複雑な計算の場合、2つ以上の段階を持つ多段階OPML方法を導入することができます。! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/social/moments-4d41ed09832980b943519f4c0baa6109(## パフォーマンス改善分析計算グラフにn個のノードがあると仮定し、各ノードはm個のVMマイクロ命令を必要とし、GPUまたは並列計算の加速比はαである。1. 2段式OPMLは、1段式OPMLのα倍高速です2. 二段階OPMLのマーケルツリーのサイズはO)m+n(であり、単段階OPMLのO)mn(よりも顕著に小さい。## 一貫性と決定論的保証ML結果の一貫性を確保するために、OPMLは次のように採用しています:1. 定点アルゴリズム)量子化技術(: 固定精度を使用して浮動小数点数を代替する2. ソフトウェアベースの浮動小数点ライブラリ: クロスプラットフォームの一貫性を確保するこれらの方法は、浮動小数点変数とプラットフォームの違いによって引き起こされる課題を効果的に解決し、OPML計算の信頼性を高めました。! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/social/moments-a33f120074b07b2ec4ae4ececbea79f1(
OPML:楽観主義的機械学習のブロックチェーン上での革新的な応用
OPML:楽観的なアプローチに基づく機械学習技術
OPML(楽観的機械学習)は、新興の技術であり、楽観主義的アプローチを利用してブロックチェーンシステム上でAIモデルの推論とトレーニング/ファインチューニングを行います。ZKMLと比較して、OPMLはより低コストでより高効率なMLサービスを提供できます。OPMLの大きな利点は、その低い参加要件です - 現在、一般的なPCはGPUなしで、26GBサイズの7B-LLaMA(のような大規模言語モデルを含むOPMLを実行できます。
OPMLは、MLサービスの分散化と検証可能なコンセンサスを確保するために、検証ゲームメカニズムを採用しています。そのワークフローは次のとおりです:
! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(
シングルステージ検証ゲーム
単段階検証ゲームの核心は、正確な位置決めプロトコルであり、その動作原理は計算委任)RDoC(に似ています。主な特徴は次のとおりです:
性能テストでは、基本的なAIモデル)MNIST分類DNNモデル(がPCのVM内で2秒で推論を完了し、全体のチャレンジプロセスはローカルのイーサリアムテスト環境で2分以内に完了できます。
! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(
マルチステージ検証ゲーム
単一段階検証ゲームの限界を克服するために、私たちは多段階検証ゲームを提案しました:
2段階)k=2(での検証ゲームの例:
メルクルツリーを通じて、段階間の変換の完全性と安全性を確保する。
! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
マルチステージOPMLの例:LLaMAモデル
LLaMAモデルは二段階のOPML手法を採用しています:
より複雑な計算の場合、2つ以上の段階を持つ多段階OPML方法を導入することができます。
! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
パフォーマンス改善分析
計算グラフにn個のノードがあると仮定し、各ノードはm個のVMマイクロ命令を必要とし、GPUまたは並列計算の加速比はαである。
一貫性と決定論的保証
ML結果の一貫性を確保するために、OPMLは次のように採用しています:
これらの方法は、浮動小数点変数とプラットフォームの違いによって引き起こされる課題を効果的に解決し、OPML計算の信頼性を高めました。
! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(