OPML: Técnicas de aprendizado de máquina baseadas na abordagem otimista

OPML(Aprendizado de Máquina Otimista) é uma tecnologia emergente que utiliza métodos otimistas para realizar inferência e treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML pode oferecer serviços de ML com custos mais baixos e maior eficiência. Uma das grandes vantagens do OPML é seu baixo requisito de participação - atualmente, um PC comum pode executar OPML com modelos de linguagem de grande porte( como o 7B-LLaMA) de 26GB sem necessidade de GPU.

OPML adota um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML. O seu fluxo de trabalho é o seguinte:

1. O requerente inicia a tarefa de serviço ML
2. O servidor completa a tarefa e submete os resultados na cadeia
3. O validador verifica o resultado
4. Em caso de disputa, localizar com precisão os passos errados através do protocolo de bifurcação.
5. Arbitragem de um único passo em um contrato inteligente

Jogo de Verificação de Uma Fase

O núcleo do jogo de verificação de etapa única é o protocolo de localização precisa, cujo funcionamento é semelhante ao cálculo de delegação (RDoC). As principais características incluem:

• Construir a máquina virtual (VM) para execução off-chain e arbitragem on-chain
• Implementar uma biblioteca DNN leve para aumentar a eficiência da inferência de modelos de IA
• Usar tecnologia de compilação cruzada para compilar o código de inferência do modelo de IA em instruções VM
• Utiliza a árvore de Merkle para gerir imagens de VM, apenas carregando a raiz de Merkle na cadeia.

Durante os testes de desempenho, um modelo básico de IA ( modelo DNN de classificação MNIST ) consegue realizar a inferência em 2 segundos dentro da VM em um PC, e todo o processo do desafio pode ser concluído em 2 minutos em um ambiente de teste local do Ethereum.

Jogo de Verificação em Múltiplas Etapas

Para superar as limitações dos jogos de verificação de uma única fase, propomos jogos de verificação de múltiplas fases:

• Apenas calcular na VM na fase final
• Outras fases podem ser executadas de forma flexível no ambiente local, aproveitando ao máximo os recursos de hardware como CPU, GPU, TPU, entre outros.
• Aumentar significativamente o desempenho de execução do OPML, aproximando-se do nível do ambiente local

Usando como exemplo o jogo de verificação em duas etapas (k=2):

1. Segunda fase: semelhante ao jogo de validação de uma única fase, localizar os passos controversos na "grande instrução"
2. Primeira fase: localizar os passos de controvérsia nas microinstruções VM

Garantir a integridade e segurança da transição entre fases através da árvore de Merkle.

Exemplo de OPML em Múltiplas Fases: Modelo LLaMA

O modelo LLaMA utiliza o método OPML em duas fases:

1. Representar o processo de cálculo da rede neural profunda (DNN) como um gráfico computacional G
2. Realizar o jogo de verificação da segunda fase no gráfico de cálculo, utilizando CPU ou GPU multithread.
3. A primeira fase converte o cálculo de um único nó em instruções de VM

Para cálculos mais complexos, pode-se introduzir um método OPML de múltiplas fases com mais de duas fases.

Análise de Melhoria de Desempenho

Suponha que o gráfico computacional tenha n nós, cada nó necessitando de m microinstruções VM, e a taxa de aceleração do GPU ou do cálculo paralelo seja α:

1. O OPML de duas fases é α vezes mais rápido do que o OPML de uma fase.
2. O tamanho da árvore de Merkle do OPML de duas fases é O(m+n), significativamente menor do que o OPML de uma fase que é O(mn).

Garantia de Consistência e Determinismo

Para garantir a consistência dos resultados ML, a OPML adota:

1. Algoritmo de ponto fixo( tecnologia de quantização): usar precisão fixa em vez de números de ponto flutuante
2. Biblioteca de ponto flutuante baseada em software: garantir consistência entre plataformas

Esses métodos resolveram de forma eficaz os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do cálculo OPML.