Cisco anuncia un enfoque 'radical' para la seguridad de la IA

Cisco está adoptando un enfoque radical para la seguridad de la IA en su nueva solución de defensa de IA.

En una entrevista exclusiva el domingo con Rowan Cheung de la IA de resumen, el vicepresidente ejecutivo de Cisco y CPO Jeetu Patel dijo que la defensa de la IA está "adoptando un enfoque radical para abordar los desafíos que las soluciones de seguridad existentes no están equipadas para manejar".

AI Defense, anunciada la semana pasada, tiene como objetivo abordar los riesgos en el desarrollo y la implementación de aplicaciones de IA, así como identificar dónde se utiliza la IA en una organización.

AI Defense puede proteger los sistemas de IA de los ataques y proteger el comportamiento del modelo en todas las plataformas con características como:

• Detección de aplicaciones de IA sancionadas y sancionadas en nubes públicas y privadas;
• Pruebas automatizadas de modelos de IA para cientos de posibles problemas de seguridad; y
• Salvaguardas de validación continua contra posibles amenazas de seguridad y seguridad, como inyección inmediata, denegación de servicio y fuga de datos confidenciales.

La solución también permite a los equipos de seguridad proteger mejor los datos de sus organizaciones al proporcionar una visión integral de las aplicaciones de IA utilizadas por los empleados, crear políticas que restrinjan el acceso a herramientas de IA no autorizadas e implementen salvaguardas contra amenazas y pérdida de datos confidenciales al tiempo que garantizan el cumplimiento.

"La adopción de IA expone a las empresas a nuevos riesgos que las soluciones tradicionales de ciberseguridad no abordan", dijo en un comunicado Kent Noyes, jefe global de IA e Innovación Cibernética de la Compañía de Servicios de Tecnología World Wide Technology en St. Louis. "Cisco AI Defense representa un salto significativo en la seguridad de la IA, proporcionando la visibilidad total de los activos de IA de una empresa y la protección contra las amenazas en evolución".

Paso positivo para la seguridad de la IA

MJ Kaufmann, autor e instructor de O'Reilly Media, operador de una plataforma de aprendizaje para profesionales de la tecnología, en Boston, afirmó el análisis de Cisco de las soluciones de seguridad cibernética existentes. "Cisco tiene razón", dijo a Technewsworld. "Las herramientas existentes no logran abordar muchos ataques de operación operativamente contra sistemas de IA, como ataques de inyección inmediata, fuga de datos y acción del modelo no autorizado".

"Los implementadores deben tomar medidas e implementar soluciones específicas para abordarlas", agregó.

Cisco está en una posición única para proporcionar este tipo de solución, señaló Jack E. Gold, fundador y analista principal de J.Gold Associates, una compañía de asesoramiento de TI en Northborough, Mass. Telemetría que se puede utilizar para reforzar las capacidades de IA que desean proteger ”, dijo a Technewsworld.

Cisco también quiere proporcionar seguridad en todas las plataformas (locales, nubes y nubes múltiples, y en todos los modelos, agregó.

"Será interesante ver cuántas empresas adoptan esto", dijo. "Cisco ciertamente se está moviendo en la dirección correcta con este tipo de capacidad porque las empresas, en general, no están mirando esto de manera muy efectiva".

Proporcionar protección multimodelo y múltiples nubes es importante para la seguridad de la IA.

"Las soluciones de IA de múltiples modelos y múltiples nubes expanden la superficie de ataque de una organización al introducir la complejidad en entornos dispares con protocolos de seguridad inconsistentes, múltiples puntos de transferencia de datos y desafíos para coordinar el monitoreo y la respuesta de incidentes, factores que los actores de amenaza pueden explotar más fácilmente". Patricia Thaine, CEO y cofundadora de la IA privada, una compañía de seguridad y privacidad de datos en Toronto, dijo a Technewsworld.

Sobre limitaciones

Aunque el enfoque de Cisco de integrar los controles de seguridad en la capa de red a través de su malla de infraestructura existente es prometedor, también revela las limitaciones sobre las limitaciones, mantuvo el Dev Nag, CEO y fundador de QueryPal, un chatbot de atención al cliente con sede en San Francisco.

"Si bien la visibilidad a nivel de red proporciona una valiosa telemetría, muchos ataques específicos de IA ocurren en las capas de aplicación y modelo que el monitoreo de la red solo no puede detectar", dijo a Technewsworld.

"La adquisición de inteligencia robusta el año pasado ofrece a Cisco importantes capacidades en torno a la validación del modelo y la protección del tiempo de ejecución, pero su enfoque en la integración de la red puede conducir a lagunas para asegurar el ciclo de vida de desarrollo de IA real", dijo. "Las áreas críticas como la seguridad de la tubería de capacitación, la verificación de la cadena de suministro modelo y las barandillas ajustadas requieren una integración profunda con las herramientas MLOPS que van más allá del paradigma tradicional centrado en la red de Cisco".

"Piense en los dolores de cabeza que hemos visto con ataques de cadena de suministro de código abierto donde el código ofensivo es abiertamente visible", agregó. "Los ataques de la cadena de suministro modelo son casi imposibles de detectar en comparación".

Nag señaló que desde una perspectiva de implementación, Cisco AI Defense parece ser principalmente un reempaquetado de productos de seguridad existentes con algunas capacidades de monitoreo específicas de IA en capas en la parte superior.

"Si bien su extensa huella de implementación proporciona ventajas para la visibilidad de toda la empresa, la solución se siente más reactiva que transformadora por ahora", sostuvo. "Para algunas organizaciones que comienzan su viaje de IA que ya están trabajando con Cisco Security Products, Cisco AI Defense puede proporcionar controles útiles, pero aquellos que buscan capacidades avanzadas de IA probablemente necesitarán arquitecturas de seguridad más sofisticadas diseñadas para los sistemas de aprendizaje automático".

Para muchas organizaciones, la mitigación de riesgos de IA requiere evaluadores de penetración humana que entiendan cómo hacer las preguntas de los modelos que provocan información confidencial, agregó Karen Walsh, CEO de Allegro Solutions, una compañía de consultoría de seguridad cibernética en West Hartford, Conn.

"El comunicado de Cisco sugiere que su capacidad para crear barandillas específicas del modelo mitigará estos riesgos para evitar que la IA aprenda en datos malos, respondiera a las solicitudes maliciosas y compartirá información involuntaria", dijo a Technewsworld. "Por lo menos, podríamos esperar que esto identifique y mitige los problemas de referencia para que los probadores de corrales puedan centrarse en estrategias de compromiso de IA más sofisticadas".

Necesidad crítica en el camino hacia AGI

Kevin Okemwa, escribiendo para Windows Central, señala que el lanzamiento de la defensa de IA no podría llegar en un mejor momento ya que los principales laboratorios de IA se están acercando a la producción de una verdadera inteligencia general artificial (AGI), que se supone que replica la inteligencia humana.

"A medida que AGI se acerca con cada año que pasa, las apuestas no podrían ser más altas", dijo James McQuiggan, un defensor de la conciencia de seguridad en KnowBe4, un proveedor de capacitación en seguridad en Clearwater, FLA.

"La capacidad de AGI para pensar como un humano con intuición y orientación puede revolucionar las industrias, pero también introduce riesgos que podrían tener consecuencias de largo alcance", dijo a Technewsworld. "Una solución sólida de seguridad de IA asegura que AGI evolucione de manera responsable, minimizando los riesgos como la toma de decisiones deshonestas o las consecuencias no deseadas".

"La seguridad de la IA no es solo un 'agradable de tener' o algo en lo que pensar en los próximos años", agregó. "Es crítico a medida que avanzamos hacia AGI".

¿Doom existencial?

Okemwa también escribió: “Si bien la defensa de IA es un paso en la dirección correcta, queda por ver su adopción entre las organizaciones y los principales laboratorios de IA. Curiosamente, el CEO de Operai [Sam Altman] Reconoce la amenaza de la tecnología para la humanidad, pero cree que la IA será lo suficientemente inteligente como para evitar que la IA cause una fatalidad existencial ".

"Veo algo de optimismo sobre la capacidad de la IA para autorregular y prevenir resultados catastróficos, pero también noto en la adopción de que alinear los sistemas de IA avanzados con los valores humanos sigue siendo una ocurrencia tardía en lugar de un imperativo", Adam Ennamli, jefe de riesgos y seguridad. en el Banco General de Canadá dijo a Technewsworld.

"La noción de que la IA resolverá sus propios riesgos existenciales es peligrosamente optimista, como lo demuestran los sistemas de IA actuales que ya se pueden manipular para crear contenido dañino y evitar controles de seguridad", agregó Stephen Kowski, CTO de campo en SlashNext, una computadora y una computadora de red. Compañía, en Pleasanton, California.

"Las salvaguardas técnicas y la supervisión humana siguen siendo esenciales ya que los sistemas de IA están fundamentalmente impulsados ​​por sus datos de capacitación y objetivos programados, no un deseo inherente de bienestar humano", dijo Technewsworld.

"Los seres humanos son bastante creativos", agregó Gold. “No compro todas estas tonterías del Doomsday. Encontraremos una manera de hacer que AI funcione para nosotros y lo hagamos de manera segura. Eso no quiere decir que no haya problemas en el camino, pero no todos vamos a terminar en 'The Matrix' ".