El lado oscuro de la inteligencia artificial: la amenaza de los modelos de lenguaje de gran tamaño sin restricciones para la industria de la encriptación

Con el rápido desarrollo de la tecnología de inteligencia artificial, modelos avanzados como la serie GPT y Gemini están transformando profundamente nuestra forma de trabajar y vivir. Sin embargo, detrás de esta innovación tecnológica, surge una preocupación inquietante: la aparición de modelos de lenguaje de gran tamaño sin restricciones o maliciosos y sus posibles peligros.

Los LLM sin restricciones se refieren a aquellos modelos de lenguaje que han sido diseñados, modificados o "jailbreakeados" intencionadamente para eludir los mecanismos de seguridad y las restricciones éticas incorporadas en los modelos convencionales. Aunque los desarrolladores de LLM convencionales suelen invertir grandes recursos para prevenir el uso indebido de los modelos, en los últimos años, algunas personas u organizaciones han comenzado a buscar o desarrollar modelos no restringidos con fines ilegales. Este artículo explorará herramientas típicas de LLM sin restricciones, sus formas de abuso en el campo de la encriptación, y los desafíos de seguridad relacionados y las estrategias de mitigación.

Aplicaciones peligrosas de LLM sin restricciones

Con la ayuda de LLM sin restricciones, incluso las personas comunes sin habilidades profesionales pueden completar fácilmente tareas complejas como escribir código malicioso, crear correos electrónicos de phishing y planificar fraudes. Los atacantes solo necesitan obtener los pesos y el código fuente del modelo de código abierto, y luego utilizar un conjunto de datos que contenga contenido malicioso, declaraciones sesgadas o instrucciones ilegales para realizar ajustes, creando así herramientas de ataque personalizadas.

Este modo conlleva múltiples riesgos:

• Los atacantes pueden personalizar modelos dirigidos a objetivos específicos, generando contenido más engañoso que elude la revisión de contenido y las restricciones de seguridad de los LLM convencionales.
• El modelo se puede utilizar para generar rápidamente variantes de código de sitios web de phishing, o para personalizar textos de fraude para diferentes plataformas sociales.
• La accesibilidad y la modificabilidad de los modelos de código abierto han fomentado la formación y difusión de un ecosistema de IA subterránea, proporcionando un caldo de cultivo para el comercio y desarrollo ilegales.

A continuación se presentan varios LLM ilimitados típicos y sus posibles amenazas:

WormGPT: versión oscura de GPT

WormGPT es un LLM malicioso que se vende públicamente en foros clandestinos, cuyo desarrollador afirma claramente que no tiene ninguna restricción ética. Se basa en modelos de código abierto como GPT-J 6B y ha sido entrenado en una gran cantidad de datos relacionados con malware. Los usuarios solo necesitan pagar 189 dólares para obtener un mes de acceso.

WormGPT en el campo de la encriptación incluye formas típicas de abuso:

• Generar correos electrónicos de phishing altamente realistas, imitando las solicitudes de "verificación de cuenta" enviadas por intercambios de encriptación o proyectos conocidos.
• Ayudar a atacantes con un nivel técnico más bajo a escribir código malicioso, como funciones para robar archivos de billetera, monitorear el portapapeles, etc.
• Impulsar fraudes automatizados, responder automáticamente a las posibles víctimas, guiándolas para que participen en airdrops o proyectos de inversión falsos.

DarkBERT: la espada de doble filo del contenido de la darknet

DarkBERT es un modelo de lenguaje desarrollado en colaboración entre el Instituto de Ciencia y Tecnología de Corea y S2W Inc., que se preentrena específicamente en datos de la dark web. Su propósito es proporcionar herramientas a los investigadores de ciberseguridad y a las agencias de aplicación de la ley para comprender mejor la ecología de la dark web y rastrear actividades ilegales.

Sin embargo, si la información sensible de la dark web que maneja DarkBERT es adquirida o utilizada por actores maliciosos, podría tener graves consecuencias. El potencial abuso en el ámbito de la encriptación incluye:

• Implementar fraudes precisos: recopilar información de usuarios de encriptación y equipos de proyectos para fraudes de ingeniería social.
• Imitar métodos delictivos: copiar estrategias maduras de robo de criptomonedas y lavado de dinero en la dark web.

FraudGPT: el navaja suiza del fraude en línea

FraudGPT se autodenomina como la versión mejorada de WormGPT, con funciones más completas, y se vende principalmente en la dark web y foros de hackers, con una tarifa mensual que varía de 200 a 1,700 dólares.

En el campo de la encriptación, los tipos típicos de abuso incluyen:

• Proyectos de encriptación falsificados: generar libros blancos, sitios web, hojas de ruta y copias de marketing que parecen auténticos, para llevar a cabo ICO/IDO fraudulentos.
• Generación masiva de páginas de phishing: crea rápidamente páginas de inicio de sesión de intercambios de criptomonedas conocidos o interfaces de conexión de billetera falsas.
• Actividades de ejércitos de comentarios en redes sociales: fabricación masiva de comentarios y propaganda falsos, promoción de tokens fraudulentos o desprestigio de proyectos competidores.
• Ataques de ingeniería social: imitar conversaciones humanas, establecer confianza con usuarios desinformados, y inducir la divulgación de información sensible o la ejecución de operaciones dañinas.

GhostGPT: asistente de IA sin restricciones morales

GhostGPT es un chatbot de IA que está claramente posicionado como sin restricciones éticas. Las formas típicas de abuso en el campo de la encriptación incluyen:

• Ataques de phishing avanzados: generar correos electrónicos de phishing altamente realistas, suplantando a los intercambios de criptomonedas más importantes para publicar solicitudes de verificación KYC falsas o alertas de seguridad.
• Generación de código malicioso para contratos inteligentes: ayuda a los atacantes a generar rápidamente contratos inteligentes que contienen puertas traseras ocultas o lógica fraudulenta, utilizados para estafas de Rug Pull o ataques a protocolos DeFi.
• Robador de criptomonedas polimórfico: genera malware con capacidad de transformación continua para robar archivos de billetera, claves privadas y frases de recuperación.
• Ataques de ingeniería social: combina scripts de conversación generados por IA, despliega bots en plataformas sociales para inducir a los usuarios a participar en la emisión o airdrop de NFT falsos.
• Estafa de falsificación profunda: en combinación con otras herramientas de IA, genera voces falsas de fundadores de proyectos de encriptación o altos ejecutivos de intercambios, llevando a cabo estafas telefónicas o ataques de infiltración de correos comerciales.

Venice.ai: riesgos potenciales de acceso sin censura

Venice.ai proporciona acceso a varios LLM, incluidos algunos modelos con menos restricciones o con restricciones más laxas. Se posiciona como un portal abierto para que los usuarios exploren las diversas capacidades de los LLM, pero también podría ser utilizado por delincuentes para generar contenido malicioso. Los riesgos de la plataforma incluyen:

• Evitar la censura para generar contenido malicioso: los atacantes pueden aprovechar modelos con menos restricciones para generar plantillas de phishing, propaganda falsa o ideas de ataque.
• Reducir la barrera de entrada para la ingeniería de indicios: incluso si los atacantes no poseen habilidades avanzadas de "jailbreak", pueden obtener fácilmente salidas que originalmente estaban restringidas.
• Iteración de la técnica de ataque acelerado: los atacantes pueden probar rápidamente diferentes modelos de respuesta a instrucciones malintencionadas, optimizando los scripts de fraude y las técnicas de ataque.

Conclusión

La aparición de LLM sin restricciones marca un nuevo paradigma de ataques más complejos, escalables y automatizados que enfrenta la ciberseguridad. Estos modelos no solo reducen la barrera de entrada para los ataques, sino que también traen nuevas amenazas más encubiertas y engañosas.

En este juego de ataque y defensa que sigue escalando, las partes del ecosistema de seguridad necesitan colaborar y esforzarse conjuntamente para enfrentar los riesgos futuros:

• Aumentar la inversión en tecnologías de detección, desarrollar capacidades para identificar y interceptar contenido de phishing generado por LLM maliciosos, explotación de vulnerabilidades en contratos inteligentes y código malicioso.
• Impulsar la construcción de capacidades de prevención de jailbreak en modelos, explorar mecanismos de marca de agua y trazabilidad, para poder rastrear el origen de contenido malicioso en escenarios clave como las finanzas y la generación de código.
• Establecer un marco ético y mecanismos de supervisión adecuados para limitar desde la raíz el desarrollo y el abuso de modelos maliciosos.

Solo a través de esfuerzos multifacéticos podemos disfrutar de las comodidades que la tecnología de IA ofrece mientras enfrentamos de manera efectiva sus amenazas de seguridad potenciales.