La disponibilidad masiva de herramientas de IA generativa, como ChatGPT de OpenAI o Google Bard, sigue siendo debatida. Esta vez le toca el turno a Gartner estudiar los riesgos emergentes para la seguridad que plantean. Sin desviarse, la firma indicado en un estudio que las soluciones de IA generativa son una de las principales preocupaciones de los líderes de seguridad de TI en el segundo trimestre de 2023. "La IA generativa emerge como el segundo riesgo más citado en nuestra encuesta del segundo trimestre, apareciendo entre los 10 primeros por primera vez", dijo Ran Xu, director de investigación en la práctica de auditoría y riesgos de Gartner: “Esto refleja tanto el rápido crecimiento de la conciencia pública y el uso de herramientas de inteligencia artificial generativa, como la amplitud de los posibles casos de uso y, por lo tanto, los riesgos potenciales que conllevan estas soluciones. engendrar”, analiza el responsable. En mayo de 2023, la firma encuestó a 249 CISO para ofrecer a las empresas una visión comparativa de 20 riesgos emergentes.
Los informes trimestrales proporcionan datos detallados sobre el posible impacto, el momento oportuno, el nivel de atención y las oportunidades percibidas de estos riesgos. La viabilidad de las aplicaciones de terceros es el principal riesgo emergente que las empresas están siguiendo más de cerca en la encuesta del segundo trimestre de 2023. A continuación, los riesgos que plantean las herramientas de IA generativa ocupan el segundo lugar. Las preocupaciones relacionadas con la planificación financiera, la concentración de datos en la nube y las tensiones comerciales con China completan este top 5.
Los riesgos generados por la disponibilidad de IA generativa fueron mencionados con una frecuencia del 67%. (Fuente: Gartner/Crédito: Gartner)
Garantizar la protección de datos y los riesgos cibernéticos
Gartner identificó previamente Seis riesgos de la IA generativa y cuatro áreas relevantes de la regulación de la IA. En términos de gestión de riesgos empresariales, hay tres aspectos principales a considerar. Entre ellos se encuentra la propiedad intelectual. "La información ingresada en una herramienta de IA generativa puede ser parte de un conjunto de entrenamiento, lo que significa que datos sensibles o confidenciales podrían terminar en los resultados destinados a otros usuarios", señaló Ran Xu. "Además, el uso de los resultados de estas herramientas podría dar lugar a una violación involuntaria de los derechos de propiedad intelectual de otros usuarios", añadió. Por ello, es importante concienciar a los líderes empresariales sobre la necesidad de actuar con cautela y transparencia en el uso de estas herramientas para que los riesgos relacionados con la propiedad intelectual puedan mitigarse adecuadamente, tanto en lo que respecta a los datos de entrada como a los de salida. datos de herramientas de IA generativa.
La privacidad de los datos también debe ser monitoreada de cerca, dijo la firma, explicando que las herramientas de inteligencia artificial generativa pueden potencialmente compartir datos de los usuarios con terceros, como proveedores o prestadores de servicios. , sin previo aviso. Esto podría violar las leyes de privacidad en muchas jurisdicciones. Por ejemplo, ya se han implementado regulaciones en China y la UE, y se están desarrollando proyectos de regulaciones en Estados Unidos, Canadá, India y el Reino Unido, entre otros. Por último, los riesgos de ciberseguridad que plantea la IA generativa están generando preocupación en las empresas. "Los piratas informáticos siempre están probando nuevas tecnologías para encontrar formas de secuestrarlas para sus propios fines, y la IA generativa no es una excepción", explica el director de investigación de Gartner. “Hemos visto ejemplos de malware y ransomware que se ha engañado a la IA generativa para que produzca, así como ataques de 'inyección rápida' que pueden engañar a estas herramientas para que proporcionen información que no deberían. Esto ha llevado a la industrialización de los ataques de phishing avanzados”, señala este último.
Mayor monitoreo de aplicaciones de terceros.
Desde la perspectiva de las causas e implicaciones de los riesgos informáticos sobre la viabilidad de las aplicaciones de terceros, "la persistencia de una inflación menos sensible a las subidas de tipos de interés y más prolongada de lo esperado ha provocado una escalada de costes y presiones sobre los márgenes". Los bancos aumentan las tasas de interés para combatir la inflación, esto también conduce a un proceso de restricción crediticia que puede obligar a los proveedores a suspender operaciones o volverse insolventes debido al aumento de los costos de endeudamiento”, señala Ran Xu. Si las condiciones económicas se deterioran en general, esto puede resultar en una caída inesperada. en la demanda que podría afectar la viabilidad de los proveedores o su capacidad para entregar bienes y servicios de manera oportuna.
Los expertos de Gartner han identificado tres implicaciones potenciales para la viabilidad de las aplicaciones de terceros que los gestores de riesgos deberían monitorear a medida que evoluciona la situación. En primer lugar, si los precios de las aplicaciones de terceros aumentan debido a la situación económica general, existe un riesgo claro de perder el acceso a elementos y materiales clave, favoreciendo a los clientes dispuestos a pagar precios más altos. Además, los supuestos de costos ya no serán válidos si los proveedores aumentan los precios o quiebran, lo que provocará cambios en los precios y aumentos de los precios para la obtención de bienes y servicios. Por último, a raíz de desafíos externos a la cadena de suministro, ciertos actores, como proveedores de servicios compartidos, socios comerciales y editores de soluciones, podrían cesar o reducir sus actividades.
Otras noticias que te pueden interesar