En una reunión de los representantes permanentes del Consejo Europeo (Coreper), todos los países de la Unión Europea validaron la propuesta de reglamento sobre inteligencia artificial, también conocida como AI Act, que había sido objeto de una posición común entre la Comisión Europea y el Parlamento Europeo el pasado mes de diciembre.

Francia se ha mostrado más bien cautelosa con este primer borrador. El ministro Jean-Noël Barrot había indicado en un mensaje que el texto constituía "una etapa en un proyecto que comenzó hace cuatro años y que requiere discusiones adicionales". El presidente de la República, Emmanuel Macron, se mostró escéptico: "Podemos regular mucho más rápido que nuestros competidores, pero tenemos que ir a la velocidad adecuada. Si perdemos líderes por ello, tendremos que volver atrás". Una posición para proteger a empresas francesas como Mistral AI o alemanas como Aleph Alpha. Las negociaciones para modificar el texto hacia una menor regulación para no limitar la innovación no habrán tenido éxito.

Sistemas de IA clasificados según riesgo

Pero, ¿qué contiene exactamente este texto? En primer lugar, impone obligaciones en función del nivel de riesgo de los sistemas de IA. El documento Se insiste en aquellos sistemas considerados de “alto riesgo” que puedan causar daños a la salud, la seguridad, los derechos fundamentales, la democracia, etc. Para estos sistemas será necesario realizar un análisis de impacto antes de su comercialización. Además, se establece una obligación de transparencia y explicabilidad de los modelos.

La ley IA también incluye sistemas prohibidos, "sistemas de categorización biométrica que utilizan características sensibles (por ejemplo: opiniones políticas, religiosas, filosóficas, orientación sexual, raza)". También está la extracción no selectiva de imágenes faciales de Internet o mediante videovigilancia para crear bases de datos de reconocimiento facial. Se permiten algunas excepciones, en particular para las fuerzas de seguridad. El texto también prevé la creación de una entidad europea encargada de verificar la correcta aplicación de la ley IA y sanciones financieras (hasta 35 millones de euros o el 7% de la facturación anual mundial o 15 millones de euros y el 3% de la facturación mundial) en caso de incumplimiento de la normativa. Tras esta validación por parte de los 27 Estados miembros, el texto volverá a los colegisladores para una votación final.