OPML:基於樂觀主義方法的機器學習技術

OPML(Optimistic機器學習)是一種新興的技術,它利用樂觀主義方法在區塊鏈系統上進行AI模型的推理和訓練/微調。與ZKML相比,OPML能夠提供更低成本、更高效率的ML服務。OPML的一大優勢在於其低門檻的參與要求 - 目前普通PC無需GPU即可運行包含大型語言模型(如26GB大小的7B-LLaMA)的OPML。

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證共識。其工作流程如下:

1. 請求者發起ML服務任務
2. 服務器完成任務並將結果提交到鏈上
3. 驗證者對結果進行驗證
4. 如有爭議,通過二分協議精確定位錯誤步驟
5. 在智能合約上對單個步驟進行仲裁

單階段驗證遊戲

單階段驗證遊戲的核心是精確定位協議,其工作原理類似於計算委托(RDoC)。主要特點包括:

• 構建虛擬機(VM)用於鏈下執行和鏈上仲裁
• 實現輕量級DNN庫以提高AI模型推理效率
• 使用交叉編譯技術將AI模型推理代碼編譯爲VM指令
• 採用默克爾樹管理VM鏡像,僅將默克爾根上傳至鏈上

在性能測試中,一個基本的AI模型(MNIST分類DNN模型)在PC上的VM內2秒即可完成推理,整個挑戰過程在本地以太坊測試環境中可在2分鍾內完成。

多階段驗證遊戲

爲克服單階段驗證遊戲的局限性,我們提出了多階段驗證遊戲:

• 僅在最後階段在VM中進行計算
• 其他階段可在本地環境中靈活執行,充分利用CPU、GPU、TPU等硬件資源
• 顯著提高OPML執行性能,接近本地環境水平

以兩階段(k=2)驗證遊戲爲例:

1. 第二階段:類似單階段驗證遊戲,定位"大指令"上的爭議步驟
2. 第一階段:定位VM微指令上的爭議步驟

通過默克爾樹確保階段間轉換的完整性和安全性。

多階段OPML示例:LLaMA模型

LLaMA模型採用兩階段OPML方法:

1. 將深度神經網路(DNN)計算過程表示爲計算圖G
2. 在計算圖上進行第二階段驗證博弈,利用多線程CPU或GPU
3. 第一階段將單個節點計算轉換爲VM指令

對於更復雜的計算,可引入兩個以上階段的多階段OPML方法。

性能改進分析

假設計算圖有n個節點,每個節點需要m個VM微指令,GPU或並行計算的加速比爲α:

1. 兩階段OPML比單階段OPML計算速度快α倍
2. 兩階段OPML的默克爾樹大小爲O(m+n),顯著小於單階段OPML的O(mn)

一致性與確定性保證

爲確保ML結果的一致性,OPML採用:

1. 定點算法(量化技術):使用固定精度代替浮點數
2. 基於軟件的浮點庫:確保跨平台一致性

這些方法有效解決了浮點變量和平台差異帶來的挑戰,增強了OPML計算的可靠性。