Más que una tendencia, AI y Genai se extendieron rápidamente a los negocios. Esta velocidad preocupada RSSI que les resulta difícil aplicar reglas de seguridad y controlar esta tecnología. Para satisfacer esta solicitud, Cisco Acaba de presentar la solución de defensa de IA. Según Tom Gillis, vicepresidente senior y CEO de Cisco Security, la integración de las funciones de IA progresa a un ritmo que los equipos de seguridad no siguen, creando muchas vulnerabilidades que los atacantes pueden explotar. Señala el hecho de que la adopción de herramientas IA ofrece "una amplia gama de opciones para los equipos de desarrollo, mientras que las de seguridad responsables de establecer límites en torno al trabajo de los desarrolladores, luchan por seguir y a menudo perder el cable".

AI Defense, por lo tanto, propone inicialmente llevar a cabo un inventario con el módulo de descubrimiento de todas las cargas de trabajo de IA, aplicaciones, modelos, datos y acceso a los usuarios a través de entornos en la nube. La solución es parte de las herramientas de monitoreo de red (firewalls, proxies web y puertas de enlace seguras) para analizar el tráfico de red e identificar todos los flujos de trabajo de IA existentes.

AI Defense ofrece una función de inventario de activos en términos de IA. (Crédito de la foto: Cisco)

Índice
  1. Una evaluación de modelos de Cisco AI
  2. Protección en el momento de la ejecución

Una evaluación de modelos de Cisco AI

La defensa de IA también intenta responder a un segundo problema: la necesidad de modificar las prácticas de seguridad como los sistemas infundidos por la IA están generalizados. "La especificidad de la IA es que su arquitectura es simplemente diferente", observa Tom Gillis. “Una aplicación tradicional tiene tres capas: la capa de presentación (capa web), la lógica de la aplicación y la capa de persistencia de datos. Los datos se encuentran en la capa de persistencia, que, por definición, es persistente, mientras que la capa intermedia no mantiene ningún dato ", explicó.

AI agrega un modelo en el medio, en el que se absorben los datos. “El modelo conserva y transforma los datos, lo que crea una capa completamente nueva en la batería que requiere una atención y protección especial. Para asumir este desafío, AI Defense ofrecerá una capacidad de detección suministrada por Cisco AI. Llevará a cabo una "validación del modelo" a través de pruebas exhaustivas de la lógica del modelo para identificar cualquier signo de compromiso o envenenamiento. "La idea es garantizar que los datos utilizados para la capacitación sean precisos y válidos, sin malware a conjuntos de datos", dijo Gillis. “Además, verificará que las salvaguardas implementadas en el modelo funcionen correctamente y que el modelo se comporte según lo planeado. »»

Protección en el momento de la ejecución

Si AI Defense define salvaguardas para los modelos de IA, brinda la capacidad de los equipos de seguridad para implementar estas protecciones de forma independiente, sin interferir con el control de los modelos por parte de los desarrolladores. "La solución es capaz de calibrar y definir dinámicamente salvaguardas para los modelos antes y durante la producción", continuó el gerente de seguridad de Cisco. Agrega: "En la producción, un sistema de vigilancia observa el comportamiento normal de la aplicación y detecta anomalías, en particular el ataque por inyección rápida, señalando las acciones que se alejan de los patrones planificados. Tom Gillis especifica que esta protección actual es independiente y transparente comparada con el modelo AI y vidas completamente en la" red ".

Tom Gillis todavía señala que la mayoría de las herramientas competidoras para la seguridad de la IA se centran principalmente en monitorear el intercambio de datos y la prevención de pérdidas de datos (DLP), su fase de descubrimiento generalmente se limita a la identificación directa de los elementos de IA existentes. "Con la defensa de IA, la diferencia esencial radica en comprender la aplicación", dijo. "A diferencia de otras herramientas de seguridad de IA, AI Defense valida el modelo y tiene la capacidad de aplicar protecciones, como la prevención de la inyección inmediata en el momento de la ejecución. Nuestros modelos de propietario siguen de forma única el comportamiento de la aplicación y monitorear cualquier deriva. Además de la inyección rápida de la inyección rápida de la pronta nube de seguridad.