El avance de la IA generativa no está exento de consecuencias negativas, y los CISO están particularmente preocupados por las desventajas de un mundo impulsado por la IA, según un estudio publicado esta semana por IBM. Según la firma, se espera que la IA generativa cree una amplia gama de ciberataques adicionales durante los próximos seis a 12 meses, con actores maliciosos sofisticados que utilizan la tecnología para mejorar la velocidad, precisión y escala de sus intentos de intrusión. Los expertos creen que la mayor amenaza proviene de los ataques generados de forma autónoma y lanzados a escala, seguidos de cerca por las suplantaciones de usuarios confiables y la creación automatizada de malware.

El informe publicado por IBM Incluye datos de cuatro encuestas diferentes relacionadas con la IA, en las que se preguntó específicamente a 200 ejecutivos de empresas con sede en EE. UU. sobre ciberseguridad. A casi la mitad de estos ejecutivos (47%) les preocupa que la adopción de la IA generativa por parte de su empresa conduzca a nuevos problemas de seguridad, mientras que casi todos creen que aumenta la probabilidad de una violación de la seguridad. Según el informe, esto ha resultado al menos en un aumento promedio del 51% en los presupuestos de ciberseguridad dedicados a la IA en los últimos dos años, y se espera un crecimiento para los próximos dos años.

“Nunca una tecnología ha recibido este nivel de atención en materia de seguridad”

El contraste entre la loca carrera por adoptar la IA generativa y las fuertes preocupaciones sobre los riesgos de seguridad puede no ser un ejemplo de disonancia cognitiva, dice Chris McCurdy, director general de los servicios de ciberseguridad de IBM. tan importante como algunos han afirmado. Por un lado, no es un modelo nuevo, señala, y por otro, los primeros días de la computación en la nube, donde las preocupaciones por la seguridad retrasaron hasta cierto punto su adopción. “Incluso diría que existe una clara diferencia que actualmente se pasa por alto cuando se trata de IA; "Con la excepción tal vez de la propia Internet, "nunca una tecnología ha recibido este nivel de atención y escrutinio en lo que respecta a la seguridad", dice Chris McCurdy. Han surgido grupos de expertos internacionales para estudiar las implicaciones de seguridad de la IA generativa, señaló. y si bien todavía queda mucho por hacer en la educación de la alta dirección, las empresas en general están avanzando en la dirección correcta.

“En otras palabras, vemos que la seguridad no es una ocurrencia tardía, sino una consideración crítica en estos primeros días”, añade el director general de servicios de ciberseguridad de IBM. Es importante reconocer que el impacto positivo de la IA generativa en las operaciones comerciales tiene el potencial de ser transformador, añade. Si la seguridad, por no hablar de la gobernanza y el cumplimiento, es parte de la conversación desde el principio, las amenazas cibernéticas no tienen por qué obstaculizar el progreso. "Hay mucho interés en el impacto positivo de la IA en las empresas, pero es nuestra responsabilidad pensar en las salvaguardas que debemos implementar para garantizar que los modelos de IA en los que confiamos sean confiables y seguros", dice Chris McCurdy.