Reino Unido necesita un sistema para registrar los usos indebidos y el mal funcionamiento de la IA, dice un grupo de expertos | Inteligencia artificial (IA)

El Reino Unido necesita un sistema para registrar los abusos y fallos de funcionamiento de la IA, o los ministros corren el riesgo de no estar al tanto de incidentes alarmantes relacionados con esta tecnología, según un informe.

El próximo gobierno debería crear un sistema para registrar incidentes relacionados con la IA en los servicios públicos y debería considerar la construcción de un centro central para recopilar incidentes relacionados con la IA en todo el Reino Unido, dijo el grupo de expertos Center for Long-Term Resilience (CLTR).

El CLTR, que se centra en las respuestas gubernamentales a crisis inesperadas y riesgos extremos, dijo que un régimen de notificación de incidentes como el administrado por la Subdivisión de Investigación de Accidentes Aéreos (AAIB) es vital para utilizar con éxito la tecnología.

El informe cita 10.000 “incidentes de seguridad” relacionados con la IA registrados por agencias de noticias desde 2014, enumerados en una base de datos compilada por la Organización para la Cooperación y el Desarrollo Económico, un organismo de investigación internacional. La definición de la OCDE de incidente dañino de IA abarca desde daños físicos hasta daños económicos, reputacionales y psicológicos.

Los ejemplos registrados en el seguimiento de incidentes de seguridad impulsado por inteligencia artificial de la OCDE incluyen un deepfake del líder laborista, Keir Starmer, que supuestamente ofendió al personal del partido, el modelo Gemini de Google que retrata a los soldados alemanes de la Segunda Guerra Mundial como personas de color, accidentes que involucran autos sin conductor y un hombre. quien planeó asesinar a la difunta Reina alentado por un chatbot.

“La notificación de accidentes ha desempeñado un papel transformador en la mitigación y gestión de riesgos en industrias críticas para la seguridad, como la aviación y la medicina. Pero está en gran medida ausente en el panorama regulatorio que se está desarrollando para la inteligencia artificial. Esto deja al gobierno del Reino Unido ciego ante los incidentes que están surgiendo por el uso de la IA, inhibiendo su capacidad de respuesta”, afirmó Tommy Shaffer Shane, director de políticas de CLTR y autor del informe.

CLTR dijo que el gobierno del Reino Unido debería seguir el ejemplo de las industrias donde la seguridad es un tema crítico, como la aviación y la medicina, e introducir un "régimen de notificación de incidentes que funcione bien". CLTR dijo que muchos incidentes relacionados con la IA probablemente no estarían cubiertos por los reguladores del Reino Unido porque no existe un regulador centrado en sistemas de IA de vanguardia, como chatbots y generadores de imágenes. El Partido Laborista se ha comprometido a introducir una regulación vinculante para las empresas de IA más avanzadas.

Tal configuración proporcionaría información rápida sobre cómo va mal la IA, dijo el grupo de expertos, y ayudaría al gobierno a anticipar incidentes similares en el futuro. Añadió que la notificación de incidentes ayudaría a coordinar las respuestas a incidentes importantes donde la velocidad de respuesta es crucial, y a identificar señales tempranas de daños a gran escala que puedan ocurrir en el futuro.

Es posible que algunos modelos solo muestren daños cuando estén completamente liberados, a pesar de haber sido probados por el Instituto de Seguridad de IA del Reino Unido, y los informes de incidentes al menos permiten al gobierno ver qué tan bien el marco regulatorio del país está abordando tales riesgos.

El CLTR dijo que el Departamento de Ciencia, Innovación y Tecnología (DSIT) corre el riesgo de no tener una imagen actualizada del uso indebido de los sistemas de inteligencia artificial, como campañas de desinformación, intentos de desarrollo de armas biológicas, sesgos en los sistemas de inteligencia artificial o uso indebido de la inteligencia artificial en servicios públicos, como en los Países Bajos, donde las autoridades tributarias han arrojado a miles de familias a dificultades financieras después de implementar un programa de inteligencia artificial en un intento equivocado de combatir el fraude de beneficios.

"El DSIT debería priorizar garantizar que el gobierno del Reino Unido tome conciencia de estos nuevos daños no a través de las noticias, sino a través de procesos probados de notificación de incidentes", dice el informe.

omitir la promoción pasada del boletín

después de la promoción del boletín

El CLTR, que está financiado en gran parte por el rico programador informático estonio Jaan Tallinn, recomendó tres pasos inmediatos: crear un sistema gubernamental para informar incidentes relacionados con la IA en los servicios públicos; pedir a los reguladores del Reino Unido que identifiquen lagunas en la notificación de incidentes de IA; y considerar la creación de una base de datos piloto de incidentes de IA, que podría recopilar incidentes relacionados con la IA de organismos existentes como la AAIB, la Oficina del Comisionado de Información y el Regulador de Medicamentos, l 'MHRA.

CLTR dijo que el sistema de informes para el uso de IA en servicios públicos podría basarse en el actual estándar de informes de transparencia algorítmica, que alienta a los departamentos de policía y a las autoridades a revelar el uso de IA.

En mayo, 10 países, incluido el Reino Unido, más la UE, firmaron una declaración sobre cooperación en seguridad de la IA que incluía el seguimiento de “daños e incidentes relacionados con la seguridad de la IA”.

El informe agregó que un sistema de notificación de incidentes también ayudaría al organismo de la Función Central de Riesgos de IA del DSIT. [CAIRF]que evalúa e informa los riesgos asociados a la inteligencia artificial.