El jueves se reveló un tratado sobre el uso de IA, negociado por representantes de 57 países, pero su formulación es tan general que no es seguro que las ITB de las empresas puedan dibujar cualquier elemento concreto que les permita garantizar el cumplimiento de sus tratamientos a través de AI. Entre los primeros firmantes de tratadoEncontramos el Reino Unido, Israel, los Estados Unidos y la Unión Europea. Este esfuerzo esencialmente europeo se agrega a una larga lista de iniciativas destinadas a regular los usos de la IA.

En su comunicado de prensa, el Consejo de Europa explica que existen "riesgos y peligros graves a lo largo del ciclo de vida de la inteligencia artificial, como la discriminación en diversos contextos, la desigualdad de género, el cuestionamiento de los procesos democráticos, el ataque a la dignidad humana o la autonomía individual, o incluso el uso abusivo de los sistemas de inteligencia artificial por ciertas leyes internacionales de los estados relacionados con los derechos humanos".

Lo que dice el tratado

El tratado, llamado Convención Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y el Estado de Derecho, enfatiza que las empresas deben indicar claramente a los usuarios si se comunican con un ser humano o una inteligencia artificial. Y "llevar a cabo evaluaciones de riesgo e impacto con respecto a las consecuencias reales o potenciales en los derechos humanos, la democracia y el estado de derecho".

Las entidades también deben documentar los usos de la IA tanto como sea posible y estar preparado para que esta información esté disponible para cualquiera que lo solicite. El acuerdo estipula que las entidades deben "documentar la información relevante sobre los sistemas de IA y su uso y ponerla a disposición de las personas en cuestión. Esta información debe ser suficiente para permitir que las personas preocupadas cuestionen las decisiones tomadas gracias al uso del sistema o en gran parte basada en ella, y desafiar el uso del sistema en sí”. Esta documentación también debe permitir a los usuarios "presentar una queja ante las autoridades competentes".

Sector público, sector privado: dos pesos, dos medidas

Francesca Fanucci, especialista legal de ECNL (Centro Europeo para la Ley No Foritado de Stichting), observador del proceso de negociación, explica que el tratado estaba "diluido", principalmente con respecto a las empresas privadas y la seguridad nacional. "La formulación de principios y obligaciones en este Acuerdo es tan amplia y llena de reservas que plantea serias preguntas sobre su certeza legal y su aplicabilidad efectiva", dijo a Reuters. El documento final excluye explícitamente los problemas de seguridad nacional, que "no caen dentro del alcance de este Acuerdo.

Como Francesca Fanucci nos explica, la versión final del tratado también considera a las empresas de manera muy diferente a los gobiernos. El tratado "establece obligaciones para los partidos de los estados, y no para los actores privados directamente. Este tratado requiere que los estados apliquen sus reglas al sector público, pero elija si y cómo se aplicarán al sector privado a través de su legislación nacional. Este es un compromiso obtenido por los países que han solicitado específicamente la exclusión del sector privado, incluidos los estados unidos, Canadá, ISRAEL y el Reino Unido y el abogado, los países, por los países, por los países que se decepcionan específicamente".

Tenga cuidado con los efectos perversos

Tim Peters, gerente de la compañía que se especializa en Sistemas de Enghouse de cumplimiento en Canadá, es uno de los que aplaudió la idea del tratado mientras se preguntaba sobre sus especificidades. "El Tratado de AI del Consejo de Europa es un intento bien intencionado, pero fundamentalmente erróneo de regular un espacio de evolución rápida con las herramientas de ayer. Aunque el tratado se enorgullece de ser tecnológicamente neutral, esta neutralidad puede ser su talón de Aquiles", dijo. "La IA no es una solución única, e intenta aplicar reglas generales que rigen todo, los robots de servicio al cliente con armas autónomas, podrían sofocar la innovación y colocar a Europa en una camiseta sin mangas regulatoria.»

Tim Peters agrega que esto podría socavar los esfuerzos de las empresas en términos de IA. "Los gerentes de TI de las empresas deben preocuparse por las consecuencias no tripuladas [de ce texte, NDLR] : sofoque su adaptabilidad, ralentice el desarrollo de la IA y empuja los talentos e inversiones hacia las regiones más favorables para la IA ", dijo Tim Peters." Al final, este tratado podría crear una brecha competitiva entre las empresas que juegan la tarjeta de seguridad en Europa y aquellos que empujan los límites en otros lugares. Las empresas que desean prosperar deben pensar críticamente en el impacto a largo plazo de este tratado, no solo en la ética de la inteligencia artificial, sino también en su capacidad para innovar. »»

Otro líder de la industria, Andrew Gamino-Cheong, director técnico de confianza (que ofrece una solución de gobierno para la IA), también pone en tela de juicio la relevancia del acuerdo. "El contenido del tratado no es particularmente fuerte y se reduce a declaraciones de principios de alto nivel. Pero creo que, sobre todo, es un esfuerzo unificar a los países para afirmar sus derechos como se extiende soberano en el mundo digital. Para comprender mejor lo que quiero decir, veo lo que está sucediendo entre Elon Musk y Brasil como un buen ejemplo de los desafíos que los gobiernos se enfrentan con la tecnología", dijo. "Es tecnológicamente difícil bloquear StarLink en Brasil, lo que a su vez puede permitir el acceso a X, este último puede establecer sus propias reglas en términos de contenido y evitar lo que Brasil quiere imponer a ella. De la misma manera, incluso si ClearView Ai no opera legalmente en la UE, el hecho de que tiene datos de ciudadanos europeos es suficiente para que sea procesado bajo el GDPR.» »

De la ausencia de reglas demasiado completas

Brian Levine, director gerente de Ernst & Young, abordó preguntas relacionadas con la aplicabilidad de este tratado, en particular para las empresas estadounidenses. Aunque Estados Unidos es uno de los firmantes, no es raro ver que las compañías estadounidenses ignoren las multas y sanciones europeas. "Un paso tras otro. No es posible aplicar reglas y estándares comunes siempre que no hayamos acordado la naturaleza de estas reglas y estas normas", dijo el gerente. "Rápidamente salimos del 'lejano oeste' de AI. Prepárate para pasar de regulaciones y ejecutivos insuficientes a regulaciones y reglas excesivas.» »

El tratado entrará en vigor "el primer día del mes después del vencimiento de un período de tres meses después de la fecha en que cinco firmantes, incluidos al menos tres estados miembros del Consejo de Europa, lo habrán ratificado", dijo la declaración del Consejo de Europa. "El acuerdo marco es un tratado abierto, de alcance potencialmente global. Espero que estas firmas sean las primeras en una larga serie y que sean seguidos rápidamente por ratificaciones, para que el tratado pueda entrar en vigor lo antes posible", explica el Secretario General del Consejo de Europa, Marija Pejčinović Burić.