L'épée à double tranchant de l'intelligence artificielle : les menaces potentielles des grands modèles sans restrictions pour l'industrie du chiffrement

Avec le développement rapide de la technologie de l'intelligence artificielle, des modèles de langage avancés tels que la série GPT et Gemini transforment profondément notre manière de travailler et de vivre. Cependant, les avancées technologiques s'accompagnent également de risques potentiels, parmi lesquels l'émergence de modèles de langage à grande échelle sans restrictions ou malveillants mérite une attention particulière.

Les modèles de langage sans restriction sont ceux qui ont été délibérément conçus ou modifiés pour contourner les mécanismes de sécurité intégrés et les limites éthiques des modèles principaux. Bien que les développeurs d'IA principaux investissent des ressources considérables pour prévenir l'abus des modèles, certaines personnes ou organisations, pour des raisons illégales, commencent à rechercher ou à développer elles-mêmes des modèles non contraints. Cet article explorera plusieurs outils typiques de modèles de langage sans restriction, leurs potentielles façons d'abus dans l'industrie du chiffrement, ainsi que les défis de sécurité connexes et les stratégies d'atténuation.

La menace des modèles linguistiques sans restrictions

L'émergence de ce type de modèle a considérablement réduit le seuil d'entrée pour la cybercriminalité. Des tâches qui nécessitaient autrefois des compétences professionnelles, comme l'écriture de code malveillant, la création de courriels de phishing, la planification d'escroqueries, peuvent désormais être réalisées facilement par des personnes ordinaires sans expérience en programmation grâce à l'IA sans restriction. Les attaquants n'ont qu'à obtenir les poids et le code source d'un modèle open source, puis à affiner avec un ensemble de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d'attaque personnalisés.

Ce modèle présente plusieurs risques : les attaquants peuvent personnaliser des modèles ciblant des objectifs spécifiques, générant ainsi des contenus plus trompeurs, contournant les vérifications de contenu des IA conventionnelles ; le modèle peut également générer rapidement des variantes de code de sites de phishing ou des textes de fraude sur mesure pour différentes plateformes ; en même temps, l'accessibilité des modèles open source favorise la formation d'un écosystème AI souterrain, fournissant un terreau pour le commerce et le développement illégaux.

Modèles de langage typiques sans restriction et leurs menaces potentielles

un modèle sans contrainte éthique

C'est un modèle de langage malveillant vendu publiquement sur des forums souterrains, dont le développeur affirme qu'il n'a aucune restriction éthique. Ce modèle est basé sur une architecture open source et a été entraîné sur un grand nombre de données liées aux logiciels malveillants. Les utilisateurs n'ont qu'à payer une petite somme pour obtenir des droits d'utilisation. Son utilisation la plus notoire est de générer des courriels d'attaque par intrusion commerciale et des courriels de phishing d'un réalisme saisissant.

Dans le domaine du chiffrement, les abus typiques incluent :

• Générer des e-mails de phishing en se faisant passer pour une bourse ou un projet afin d'inciter les utilisateurs à divulguer leur clé privée.
• Aider les attaquants avec un niveau technique faible à écrire du code malveillant pour voler des informations de portefeuille.
• Piloter l'automatisation de la fraude, orienter les victimes vers des projets d'airdrop ou d'investissement falsifiés

modèle dédié au contenu du dark web

C'est un modèle de langage développé par une institution de recherche, spécialement pré-entraîné sur des données du dark web. Son objectif est d'aider les chercheurs en sécurité et les agences d'application de la loi à mieux comprendre l'écosystème du dark web et à traquer les activités illégales. Cependant, si des criminels parviennent à acquérir ou à utiliser une technologie similaire pour entraîner un modèle sans restriction, les conséquences pourraient être catastrophiques.

Dans le domaine du chiffrement, les abus potentiels incluent :

• Collecter des informations sur les utilisateurs et les équipes de projet pour une fraude sociale précise
• Copier les stratégies de vol et de blanchiment d'argent matures dans le dark web

un outil d'assistance à la fraude en ligne

C'est un modèle de langage malveillant plus complet, principalement vendu sur le dark web et les forums de hackers. Ses abus typiques dans le domaine du chiffrement incluent :

• Projets de chiffrement contrefaits, générant des livres blancs et des textes marketing réalistes pour un financement frauduleux
• Générer en masse des pages de phishing imitant des échanges bien connus.
• Créer massivement de faux commentaires sur les réseaux sociaux pour promouvoir des tokens frauduleux ou dénigrer des projets concurrents
• Imiter les dialogues humains, établir une relation de confiance avec l'utilisateur, inciter à divulguer des informations sensibles

assistant IA sans contraintes morales

C'est un chatbot IA clairement positionné sans restrictions morales. Les abus potentiels dans le domaine du chiffrement incluent :

• Générer des emails de phishing très réalistes se faisant passer pour des alertes de sécurité frauduleuses publiées par des échanges.
• Générer rapidement du code de contrat intelligent contenant des portes dérobées pour réaliser une escroquerie de type Rug Pull.
• Créer un logiciel malveillant capable de se transformer, destiné à voler des informations de portefeuille.
• Déployer des robots de fraude sur les plateformes sociales pour inciter les utilisateurs à participer à des projets fictifs
• Collaborer avec d'autres outils d'IA pour générer des voix de fondateurs de projets falsifiés et mettre en œuvre des escroqueries téléphoniques.

une plateforme d'accès sans contrôle

C'est une plateforme qui offre un accès à divers modèles de langues, y compris certains modèles avec moins de censure. Elle se positionne comme un portail ouvert pour explorer les capacités de l'IA, mais peut également être utilisée pour générer du contenu malveillant. Ses risques incluent :

• Les attaquants peuvent utiliser des modèles avec moins de restrictions pour générer des modèles de phishing et des idées d'attaque.
• Abaisser le seuil des ingénieries de signalement malveillant
• Accélérer l'itération et l'optimisation des discours d'attaque

Stratégies de réponse

L'émergence de modèles de langage sans restriction marque l'apparition d'un nouveau paradigme d'attaques plus complexes, à plus grande échelle et avec des capacités d'automatisation dans le domaine de la cybersécurité. Cela a non seulement abaissé le seuil d'entrée pour les attaques, mais a également introduit de nouvelles menaces plus insidieuses et plus trompeuses.

Pour faire face à ces défis, toutes les parties de l'écosystème de sécurité doivent travailler ensemble :

1. Augmenter les investissements dans les technologies de détection, développer des systèmes capables d'identifier et d'intercepter les contenus malveillants générés par l'IA, les exploitations de vulnérabilités de contrats intelligents et les codes malveillants.

2. Promouvoir la construction de la capacité de protection contre le jailbreak des modèles, explorer les mécanismes de filigrane et de traçabilité, afin de suivre l'origine du contenu malveillant dans des scénarios clés.

3. Établir des normes éthiques et des mécanismes de régulation solides pour limiter à la source le développement et l'abus de modèles malveillants.

4. Renforcer l'éducation des utilisateurs, améliorer la capacité du public à identifier le contenu généré par l'IA et la sensibilisation à la sécurité.

5. Promouvoir la coopération industrielle, établir un mécanisme de partage d'informations, et détecter et répondre rapidement aux nouvelles menaces de l'IA.

Ce n'est qu'en adoptant une approche multifacette que nous pouvons profiter des avantages de la technologie AI tout en prévenant efficacement les risques potentiels qu'elle engendre, et en préservant le développement sain de l'industrie du chiffrement.