OPML: técnicas de aprendizaje automático basadas en el enfoque optimista

OPML(El aprendizaje automático optimista) es una tecnología emergente que utiliza enfoques optimistas para realizar inferencias y entrenar/ajustar modelos de IA en sistemas de blockchain. En comparación con ZKML, OPML puede ofrecer servicios de ML a un costo más bajo y con mayor eficiencia. Una de las grandes ventajas de OPML es su bajo umbral de requisitos de participación: actualmente, una PC común puede ejecutar OPML que incluye modelos de lenguaje grandes( como el 7B-LLaMA) de 26GB de tamaño sin necesidad de GPU.

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de ML. Su flujo de trabajo es el siguiente:

1. El solicitante inicia la tarea del servicio ML
2. El servidor completa la tarea y envía los resultados a la cadena.
3. Los validadores verifican los resultados
4. En caso de dispute, localice con precisión los pasos erróneos a través del protocolo de bifurcación.
5. Arbitraje de un solo paso en el contrato inteligente

Juego de verificación de una sola etapa

El núcleo del juego de verificación de una sola etapa es el protocolo de localización precisa, cuyo principio de funcionamiento es similar al cálculo de la delegación (RDoC). Las principales características incluyen:

• Construir la máquina virtual (VM) para la ejecución fuera de la cadena y el arbitraje en la cadena
• Implementar una biblioteca DNN ligera para mejorar la eficiencia de inferencia de modelos de IA
• Utilizar tecnología de compilación cruzada para compilar el código de inferencia del modelo de IA en instrucciones de VM
• Utilizar un árbol de Merkle para gestionar imágenes de VM, subiendo solo la raíz de Merkle a la cadena.

En las pruebas de rendimiento, un modelo de IA básico ( modelo DNN de clasificación MNIST ) puede completar la inferencia en 2 segundos en una VM en PC, y todo el proceso del desafío se puede completar en un entorno de prueba de Ethereum local en 2 minutos.

Juego de verificación de múltiples etapas

Para superar las limitaciones de los juegos de verificación de una sola etapa, proponemos juegos de verificación de múltiples etapas:

• Solo se realizan cálculos en la VM en la etapa final
• Otras etapas se pueden ejecutar de manera flexible en el entorno local, aprovechando al máximo los recursos de hardware como CPU, GPU y TPU.
• Aumentar significativamente el rendimiento de ejecución de OPML, acercándose al nivel del entorno local

Como ejemplo de un juego de validación en dos etapas (k=2):

1. Segunda etapa: Similar al juego de verificación de una sola etapa, localizar los pasos controvertidos en "grandes instrucciones".
2. Primera fase: localización de los pasos de controversia en las microinstrucciones VM

Asegurar la integridad y la seguridad de las transiciones entre fases a través de un árbol de Merkle.

Ejemplo de OPML de múltiples etapas: Modelo LLaMA

El modelo LLaMA utiliza un método OPML de dos fases:

1. Representar el proceso de cálculo de la red neuronal profunda (DNN) como un gráfico de cálculo G
2. Realizar el segundo juego de validación en el gráfico de cálculo, utilizando CPU o GPU multihilo.
3. La primera etapa convierte el cálculo de un solo nodo en instrucciones de VM

Para cálculos más complejos, se puede introducir el método OPML de múltiples etapas con más de dos etapas.

Análisis de mejoras de rendimiento

Supongamos que el grafo de cálculo tiene n nodos, cada nodo necesita m microinstrucciones de VM, y la relación de aceleración de GPU o cálculo paralelo es α:

1. El OPML de dos etapas es α veces más rápido que el OPML de una sola etapa.
2. El tamaño del árbol de Merkle de OPML de dos etapas es O(m+n), significativamente menor que el de OPML de una etapa, que es O(mn).

Garantía de consistencia y determinación

Para garantizar la consistencia de los resultados de ML, OPML utiliza:

1. Algoritmo de punto fijo ( técnica de cuantificación ): usar precisión fija en lugar de números de punto flotante
2. Biblioteca de punto flotante basada en software: asegurar la consistencia entre plataformas

Estos métodos abordan eficazmente los desafíos derivados de las diferencias en las variables de punto flotante y en las plataformas, mejorando la fiabilidad del cálculo de OPML.