Los expertos en ciberseguridad están estudiando la protección de los modelos de lenguaje de gran tamaño. El último es Cloudflare, que ha actualizado su firewall de aplicaciones (WAF) con una función llamada Firewall para IA. Está diseñado específicamente para aplicaciones que utilizan LLM e incluirá herramientas WAF existentes y nuevas que pueden analizar las solicitudes enviadas e identificar intentos de explotación. "El Firewall para IA es independiente de la implementación específica y se puede aplicar para proteger modelos alojados en Cloudflare Workers AI o cualquier otra infraestructura de terceros, siempre que el tráfico se dirija a través de Cloudflare WAF", dijo un portavoz del proveedor.
“Los clientes podrán controlar y configurar la función mediante el plano de control del firewall de aplicaciones web”. Cloudflare Workers AI, una plataforma de inferencia de IA abierta y de pago por uso, ofrece a los desarrolladores la capacidad de ejecutar modelos de aprendizaje automático en la red de Cloudflare desde su propio código. Además, la empresa anunció un programa llamado Defensive AI que utilizará la tecnología para combatir un número cada vez mayor de ataques basados en IA dirigidos a las API, el correo electrónico y el acceso de los empleados.
Protección contra denegación de servicio y fugas de datos
En concreto, para los clientes que ejecutan IA en Workers AI, Firewall for AI protege contra la inyección de avisos y la fuga de datos, entre otras cosas. Analiza y evalúa los avisos enviados por el usuario para bloquear la explotación del modelo y los intentos de extracción de datos. La capacidad aprovecha una combinación de heurística y capas de IA patentadas para evaluar los avisos e identificar abusos y amenazas. “Firewall for AI protegerá contra la denegación de servicio del modelo y la divulgación de información confidencial, con herramientas y capacidades disponibles para todos los clientes de Web Application Firewall”, afirmó un portavoz de Cloudflare. Firewall for AI también ejecutará una serie de detecciones que pueden identificar intentos de inyección rápida y otros abusos, como garantizar que el sujeto se mantenga dentro de los límites establecidos por el propietario del modelo. “La validación de avisos de Firewall for AI está actualmente en desarrollo y se lanzará una versión beta en los próximos meses”, señaló además el portavoz.
IA defensiva para detectar comportamientos anormales
Como parte de su programa de IA defensiva, Cloudflare está trabajando en sistemas de IA para examinar los patrones de tráfico de clientes específicos y crear una base de comportamiento normal para detectar anomalías en entornos como las API, el correo electrónico y el acceso de los empleados. “La IA defensiva consiste en comprender cómo los sistemas inteligentes pueden mejorar la eficacia de las soluciones de seguridad”, afirmó el portavoz de la empresa. “Cloudflare utiliza la IA para aumentar el nivel de protección en todas las áreas de seguridad, ya sea la seguridad de las aplicaciones, la seguridad del correo electrónico o la plataforma Zero Trust de Cloudflare”, continuó.
“Los modelos de IA se adaptan a la aplicación específica, por lo que la protección de API utiliza modelos diferentes a los del correo electrónico o de confianza cero”, agregó el portavoz. Si bien la implementación puede diferir, los conceptos son similares: por ejemplo, adaptar el modelo al patrón de tráfico de clientes específicos o identificar una línea de base de comportamiento normal y usarla para identificar anomalías. Si bien Firewall for AI ya está disponible para los clientes de Cloudflare, los modelos de IA defensiva están actualmente en desarrollo y la empresa aún no ha anunciado una fecha de lanzamiento.
Otras noticias que te pueden interesar