ChatGPT todavía está en las noticias. La IA generativa se lanzó hace unos meses por AbiertoAI Es un fenómeno real. Al integrarse en numerosas aplicaciones como Zoom, GitHub, LinkedIn, Salesforce y Microsoft 365, el chatbot también se ha hecho cargo de la navegación web en forma de complemento. Sin embargo, la semana pasada, la FTC en Estados Unidos recibió una denuncia de una asociación que la insta a actuar contra OpenAI y su solución considerada engañosa, sesgada y que constituye un riesgo para la seguridad pública. Por su parte, el garante italiano para la protección de datos personales (GPDP) obstruido el sitio web OpenAI que aloja el modelo (al mismo tiempo que aumenta las suscripciones VPN en el país en un 117%, subraya ExpressVPN). Las autoridades están investigando si el software recopila ilegalmente datos sobre los ciudadanos y debe verificar la edad de los usuarios, ya que el servicio normalmente está prohibido para menores de 13 años. Italia se convirtió así en el primer país en poner fin a ChatGPT, lo que no dejó de provocar una reacción de otros países de la UE.

Esta semana, el Comisionado Federal de Protección de Datos y Libertad de Información de Alemania, Ulrich Kelber, dijo que el país, en teoría, también podría suspender temporalmente ChatGPT si considerara que la tecnología violaba el Reglamento General de Protección de Datos. protección de datos (GDPR) de la Unión Europea. Al mismo tiempo, los reguladores de privacidad en Francia e Irlanda se han puesto en contacto con sus homólogos en Italia para obtener más información sobre las bases de la prohibición. reportado Reuters. "Estamos siguiendo al regulador italiano", dijo un portavoz del Comisionado de Protección de Datos de Irlanda. "Coordinaremos con todas las autoridades de protección de datos de la UE con respecto a este asunto". Frente a este entusiasmo por la IA generativa, los comisionados de privacidad están a favor de una mayor regulación, mientras que los gobiernos son más indulgentes. En Francia, el Ministro Delegado encargado de la Transición Digital, Jean-Noël Barrot, habló con La Tribunadejando en claro que no se trataba de prohibir ChatGPT.

El gobierno dice sí al ChatGPT, la CNIL aún no ha decidido

“La estrategia de Francia es simple. Lo primero es poder dominar esta tecnología, en lugar de tener que soportar versiones de ella que provendrían de potencias con las que no compartimos todos nuestros valores”, indica Jean-Noël Barrot, antes de responder negativamente a la pregunta de saber si Debemos prohibir ChatGPT como lo hizo Italia. “Una vez que hayamos dominado la tecnología en lugar de estar sujetos a ella, el segundo paso es supervisar la innovación para que se ajuste a los principios a los que estamos apegados. Cuando ChatGPT irrumpió en nuestra vida diaria, me comuniqué con el comité nacional de ética digital. En 2021, ya había emitido una opinión sobre los chatbots, planteando las cuestiones éticas y democráticas que plantea la aparición de este tipo de herramientas. En unos meses, el comité nacional de ética nos dará una versión actualizada de esta opinión a la luz de ChatGPT”, dijo a nuestros colegas de La Tribune.

El gobierno puede estar confiado, pero las quejas contra ChatGPT hacen sonar la alarma sobre las deficiencias de OpenAI y su chatbot conversacional. Así, se presentaron dos denuncias ante la Comisión Nacional de Informática y Libertades, según l'Informed. Si la autoridad no decía nada al respecto, los autores de las denuncias se presentaban abiertamente; Se trata de Zoé Vilain, abogado y fundador de la asociación Janus International, y David Libeau, desarrollador, ambos centrados en cuestiones relacionadas con la tecnología digital y sus desafíos. Zoé Vilain, que compartió su queja contra OpenAI en LinkedIn, afirma que esto se debe al envío de una solicitud de datos que no ha recibido respuesta desde febrero. “Decidimos presentar una denuncia ante la CNIL para pedirles ayuda en el ejercicio del derecho a la privacidad el martes pasado. Esta no fue una decisión fácil, ya que creemos que herramientas como ChatGPT pueden aportar una innovación asombrosa al lugar de trabajo, pero quedó claro que OpenAI no estaba dispuesto a cumplir con las leyes aplicables ni a facilitar el ejercicio de nuestro derecho a la privacidad”. Por su parte, David Libeau destaca en su denuncia la falta de transparencia, la falta de lealtad y la aparente ausencia de fundamento jurídico. Señala dos problemas en particular. Primero, "a los usuarios de ChatGPT no se les informa que su nombre puede registrarse en el modelo de idioma". El segundo punto es: "La información generada por ChatGPT puede ser incorrecta, lo que puede tener consecuencias negativas para las personas interesadas".

Recordemos a todos los efectos que la CNIL es una autoridad administrativa independiente y “ejerce con total independencia las misiones y poderes que le confieren de conformidad con el presente reglamento (GDPR, nota del editor)”. Además, “en el ejercicio de sus misiones y atribuciones […]el o los miembros de cada autoridad de control permanecen libres de cualquier influencia externa, directa o indirecta, y no buscan ni aceptan instrucciones de nadie”. Quizás el gobierno ve con buenos ojos la llegada de la IA generativa y de herramientas como ChatGPT, pero lo cierto es que la CNIL puede prescindir completamente de esta opinión.