Si las empresas se preguntan sobre el uso de la IA generativa, los ciberdelincuentes también están interesados ​​y están desarrollando soluciones ad hoc. Hace unas semanas, investigadores descubrieron en foros clandestinos una herramienta llamada WormGPTcapaz de hacer múltiples cosas. Después de este primer descubrimiento, apareció en los foros otra oferta basada en IA: FraudGPT.

Encontrado por un equipo de NetenrichFraudGPT, editor de soluciones de seguridad en la nube, se vende mediante suscripción por 200 dólares al mes y hasta 1700 dólares al año. El vendedor ya afirma haber vendido casi 3.000 unidades por la herramienta de pirateo. En su promoción se presenta como “un bot sin límites, reglas y fronteras” y se encuentra en diferentes mercados de la dark web (Empire, WHM, Torrez, World, AlphaBay y Versus).

Campañas de phishing como prioridad

Al igual que WormGPT, su contraparte FraudGPT enumera sus capacidades molestas. Escriba código malicioso, cree malware indetectable, diseñe páginas de phishing, encuentre grupos, sitios y mercados de piratería, explote fugas y vulnerabilidades, etc. Un inventario al estilo Prévert, pero el uso principal de FraudGPT es la creación de campañas de phishing y la herramienta demuestra una ejemplo de ello en su promoción.

El desarrollo de este tipo de soluciones debería continuar y proliferar en la web oscura. Los ciberdelincuentes están intentando hacer jailbreak a la IA generativa para romper las salvaguardas implementadas dentro de los LLM. Al mismo tiempo, las empresas deberían esperar campañas de phishing cada vez más precisas y relevantes. La concienciación de los empleados y las herramientas adecuadas serán más necesarias que nunca para contrarrestar esta amenaza.