Le chemin de la confiance en l'IA : comment le réseau Mira résout les problèmes de biais et d'illusion en IA
Récemment, le réseau Mira a officiellement lancé son test public, dont l'objectif est de construire une couche de confiance pour l'IA. Cela a suscité des réflexions sur la crédibilité de l'IA : pourquoi l'IA doit-elle être digne de confiance ? Comment Mira va-t-elle résoudre ce problème ?
Dans les discussions sur l'IA, les gens ont souvent tendance à se concentrer sur ses puissantes capacités, tout en ignorant les problèmes de "hallucination" ou de biais qui l'affectent. L'"hallucination" de l'IA fait référence au fait que l'IA peut parfois "inventer" des réponses, expliquant de manière apparemment raisonnable des phénomènes qui n'existent pas. Par exemple, si l'on demande à l'IA pourquoi la lune est rose, elle pourrait fournir une série d'explications qui semblent raisonnables mais qui sont en réalité infondées.
L'apparition de "hallucinations" ou de biais par l'IA est liée aux voies technologiques actuelles de l'IA. L'IA générative réalise la cohérence et la rationalité en prédisant le contenu "le plus probable", mais cette méthode est difficile à vérifier pour sa véracité. De plus, les erreurs, biais, voire contenus fictifs dans les données d'entraînement peuvent également affecter la sortie de l'IA. En résumé, l'IA apprend des modèles linguistiques humains, et non des faits eux-mêmes.
Le mécanisme de génération de probabilités actuel et le modèle basé sur les données entraînent presque inévitablement des illusions de l'IA. Bien que ce problème ne cause pas de conséquences graves dans le domaine des connaissances générales ou du contenu de divertissement, il peut avoir un impact significatif dans des domaines très rigoureux tels que la santé, le droit, l'aviation et la finance. Par conséquent, résoudre les illusions et les préjugés de l'IA est devenu l'un des problèmes centraux du développement de l'IA.
Le projet Mira s'efforce de résoudre les problèmes de biais et d'hallucination de l'IA, en construisant une couche de confiance pour améliorer la fiabilité de l'IA. La méthode principale de Mira consiste à utiliser le consensus de plusieurs modèles d'IA pour valider les sorties de l'IA. C'est essentiellement un réseau de validation qui s'appuie sur le consensus de plusieurs modèles d'IA pour vérifier la fiabilité des sorties de l'IA. Plus important encore, Mira utilise un consensus décentralisé pour la validation.
La clé du réseau Mira réside dans la validation de consensus décentralisée, qui est précisément l'expertise du domaine de la cryptographie. En même temps, il tire également parti des avantages de la collaboration multi-modèle, réduisant les biais et les illusions grâce à un mode de validation collectif.
En matière d'architecture de validation, le protocole Mira prend en charge la conversion de contenus complexes en déclarations de validation indépendantes. Les opérateurs de nœuds participent à la validation de ces déclarations, garantissant l'honnêteté des opérateurs de nœuds grâce à un mécanisme d'incitation/punition économique cryptographique. Différents modèles d'IA et des opérateurs de nœuds décentralisés participent ensemble pour assurer la fiabilité des résultats de validation.
L'architecture réseau de Mira comprend la conversion de contenu, la validation distribuée et le mécanisme de consensus. Tout d'abord, le système décompose le contenu candidat soumis par le client en déclarations vérifiables, puis les distribue aux nœuds pour validation, et enfin résume les résultats pour parvenir à un consensus. Pour protéger la vie privée des clients, les déclarations seront distribuées à différents nœuds de manière fragmentée et aléatoire.
Les opérateurs de nœuds sont responsables de l'exécution des modèles de validation, du traitement des déclarations et de la soumission des résultats de validation. Leur motivation à participer à la validation provient des gains qu'ils peuvent obtenir, ces gains étant issus de la valeur créée pour les clients. Le réseau Mira vise à réduire le taux d'erreur de l'IA, en particulier dans des domaines tels que la santé, le droit, l'aviation et la finance, ce qui générera une valeur énorme. Pour éviter que les nœuds ne répondent de manière aléatoire, les nœuds qui s'écartent continuellement du consensus verront leurs tokens de mise réduits.
Dans l'ensemble, Mira propose une nouvelle approche pour assurer la fiabilité de l'IA : construire un réseau de validation de consensus décentralisé basé sur plusieurs modèles d'IA, offrant ainsi une meilleure fiabilité aux services d'IA pour les clients, réduisant les biais et les hallucinations de l'IA, et répondant aux besoins des clients en matière de précision et de taux de précision accrus. En résumé, Mira construit une couche de confiance pour l'IA, ce qui favorisera le développement approfondi des applications d'IA.
Actuellement, Mira a établi des partenariats avec plusieurs cadres d'agents AI. Les utilisateurs peuvent participer au test public de Mira via Klok (une application de chat basée sur le LLM de Mira), expérimenter des sorties AI vérifiées et avoir la chance de gagner des points Mira. Les futures utilisations de ces points n'ont pas encore été annoncées, mais offrent sans aucun doute une incitation supplémentaire à la participation des utilisateurs.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
21 J'aime
Récompense
21
5
Partager
Commentaire
0/400
GhostWalletSleuth
· 07-22 20:44
Cette chose n'est toujours pas assez impressionnante.
Réseau Mira : Construire une couche de confiance en IA pour résoudre les problèmes de biais et d'illusions
Le chemin de la confiance en l'IA : comment le réseau Mira résout les problèmes de biais et d'illusion en IA
Récemment, le réseau Mira a officiellement lancé son test public, dont l'objectif est de construire une couche de confiance pour l'IA. Cela a suscité des réflexions sur la crédibilité de l'IA : pourquoi l'IA doit-elle être digne de confiance ? Comment Mira va-t-elle résoudre ce problème ?
Dans les discussions sur l'IA, les gens ont souvent tendance à se concentrer sur ses puissantes capacités, tout en ignorant les problèmes de "hallucination" ou de biais qui l'affectent. L'"hallucination" de l'IA fait référence au fait que l'IA peut parfois "inventer" des réponses, expliquant de manière apparemment raisonnable des phénomènes qui n'existent pas. Par exemple, si l'on demande à l'IA pourquoi la lune est rose, elle pourrait fournir une série d'explications qui semblent raisonnables mais qui sont en réalité infondées.
L'apparition de "hallucinations" ou de biais par l'IA est liée aux voies technologiques actuelles de l'IA. L'IA générative réalise la cohérence et la rationalité en prédisant le contenu "le plus probable", mais cette méthode est difficile à vérifier pour sa véracité. De plus, les erreurs, biais, voire contenus fictifs dans les données d'entraînement peuvent également affecter la sortie de l'IA. En résumé, l'IA apprend des modèles linguistiques humains, et non des faits eux-mêmes.
Le mécanisme de génération de probabilités actuel et le modèle basé sur les données entraînent presque inévitablement des illusions de l'IA. Bien que ce problème ne cause pas de conséquences graves dans le domaine des connaissances générales ou du contenu de divertissement, il peut avoir un impact significatif dans des domaines très rigoureux tels que la santé, le droit, l'aviation et la finance. Par conséquent, résoudre les illusions et les préjugés de l'IA est devenu l'un des problèmes centraux du développement de l'IA.
Le projet Mira s'efforce de résoudre les problèmes de biais et d'hallucination de l'IA, en construisant une couche de confiance pour améliorer la fiabilité de l'IA. La méthode principale de Mira consiste à utiliser le consensus de plusieurs modèles d'IA pour valider les sorties de l'IA. C'est essentiellement un réseau de validation qui s'appuie sur le consensus de plusieurs modèles d'IA pour vérifier la fiabilité des sorties de l'IA. Plus important encore, Mira utilise un consensus décentralisé pour la validation.
La clé du réseau Mira réside dans la validation de consensus décentralisée, qui est précisément l'expertise du domaine de la cryptographie. En même temps, il tire également parti des avantages de la collaboration multi-modèle, réduisant les biais et les illusions grâce à un mode de validation collectif.
En matière d'architecture de validation, le protocole Mira prend en charge la conversion de contenus complexes en déclarations de validation indépendantes. Les opérateurs de nœuds participent à la validation de ces déclarations, garantissant l'honnêteté des opérateurs de nœuds grâce à un mécanisme d'incitation/punition économique cryptographique. Différents modèles d'IA et des opérateurs de nœuds décentralisés participent ensemble pour assurer la fiabilité des résultats de validation.
L'architecture réseau de Mira comprend la conversion de contenu, la validation distribuée et le mécanisme de consensus. Tout d'abord, le système décompose le contenu candidat soumis par le client en déclarations vérifiables, puis les distribue aux nœuds pour validation, et enfin résume les résultats pour parvenir à un consensus. Pour protéger la vie privée des clients, les déclarations seront distribuées à différents nœuds de manière fragmentée et aléatoire.
Les opérateurs de nœuds sont responsables de l'exécution des modèles de validation, du traitement des déclarations et de la soumission des résultats de validation. Leur motivation à participer à la validation provient des gains qu'ils peuvent obtenir, ces gains étant issus de la valeur créée pour les clients. Le réseau Mira vise à réduire le taux d'erreur de l'IA, en particulier dans des domaines tels que la santé, le droit, l'aviation et la finance, ce qui générera une valeur énorme. Pour éviter que les nœuds ne répondent de manière aléatoire, les nœuds qui s'écartent continuellement du consensus verront leurs tokens de mise réduits.
Dans l'ensemble, Mira propose une nouvelle approche pour assurer la fiabilité de l'IA : construire un réseau de validation de consensus décentralisé basé sur plusieurs modèles d'IA, offrant ainsi une meilleure fiabilité aux services d'IA pour les clients, réduisant les biais et les hallucinations de l'IA, et répondant aux besoins des clients en matière de précision et de taux de précision accrus. En résumé, Mira construit une couche de confiance pour l'IA, ce qui favorisera le développement approfondi des applications d'IA.
Actuellement, Mira a établi des partenariats avec plusieurs cadres d'agents AI. Les utilisateurs peuvent participer au test public de Mira via Klok (une application de chat basée sur le LLM de Mira), expérimenter des sorties AI vérifiées et avoir la chance de gagner des points Mira. Les futures utilisations de ces points n'ont pas encore été annoncées, mais offrent sans aucun doute une incitation supplémentaire à la participation des utilisateurs.