Cada vez más cibercriminales utilizan la IA generativa para crear campañas de phishing o malware. Para ello, necesitan acceder a diferentes modelos del mercado con acceso pirateado. Ante esta demanda, la dark web está repleta de ofertas en este ámbito, sobre todo en los mercados clandestinos de habla rusa. Investigadores de la empresa eSentire Según los informes, "los hackers venden nombres de usuario y contraseñas de aproximadamente 400 cuentas GenAI todos los días". Y añadieron que "muchas de estas credenciales son robadas de los ordenadores de los usuarios finales cuando estos son infectados con un ladrón de información. Los registros resultantes, incluidas las credenciales GenAI, se venden actualmente a 10 dólares cada uno en mercados clandestinos".

Índice
  1. LLM Paradise, entre los mercados más utilizados
  2. Credenciales que pueden usarse para phishing, malware e intrusiones

LLM Paradise, entre los mercados más utilizados

Los investigadores dijeron que LLM Paradise era uno de los mercados clandestinos más grandes que facilitaban el intercambio de credenciales GenAI. Los propietarios que gestionan este mercado son especialmente hábiles en el marketing. En la plataforma, promocionan claves API GPT-4 y Claude robadas con pancartas que afirman que su mercado es el único que ofrece "claves API GPT-4 y Claude" y "a precios inmejorables", dijeron los investigadores.

Los cibercriminales “publicitaron claves API GPT-4 o Claude a partir de 15 dólares cada una, mientras que los precios típicos de varios modelos de OpenAI oscilan entre 5 y 30 dólares por millón de tokens utilizados”, añadieron los expertos. Por razones desconocidas, LLM Paradise ha cesado sus operaciones y la tienda ha cerrado recientemente. Sin embargo, los piratas informáticos han sorteado el obstáculo y siguen publicitando claves API GPT-4 robadas en TikTok, que se ofrecieron antes de que se cerrara el mercado. Además de las API GPT-4 y Claude, otras credenciales, incluidas las de Quillbot, Notion, Huggingface y Replit, se han puesto a la venta en mercados similares a LLM Paradise.

Credenciales que pueden usarse para phishing, malware e intrusiones

Según los investigadores de eSentire, las credenciales robadas son más valiosas para los cibercriminales debido a sus múltiples oportunidades de explotación. “Están utilizando plataformas de IA populares para crear campañas de phishing convincentes, desarrollar malware sofisticado y producir chatbots para sus foros clandestinos”, explicaron. Además, estas credenciales se pueden utilizar para acceder a las cuentas genAI de una empresa y, luego, a la información personal y financiera de los clientes, la propiedad intelectual patentada y la información de identificación personal. Las credenciales pirateadas también pueden proporcionar acceso a datos reservados para las empresas de los clientes, lo que también afecta a los proveedores de plataformas de IA generativa.

Con más de 200 credenciales puestas a la venta cada día, la plataforma OpenAI es probablemente la más afectada por el fenómeno. Hay varias medidas que las empresas pueden tomar para defenderse de los ataques dirigidos contra GenAI, como implementar un monitoreo regular del uso de GenAI por parte de los empleados, hacer que los proveedores implementen plantillas WebAuthn con opciones de MFA, incluir las mejores prácticas para claves de acceso o contraseñas para la autenticación de IA generativa y usar servicios de monitoreo de la dark web para identificar credenciales robadas.