El uso masivo de la IA plantea importantes cuestiones relacionadas con los derechos y las libertades, la seguridad, la ética y el medio ambiente. Frente a estos desafíos, el banco Crédit Agricole, en asociación con la École Polytechnique y su fundación, inauguró esta semana una "cátedra internacional de enseñanza e investigación sobre inteligencia artificial fiable y responsable". Este programa cuenta con el apoyo del Crédit Agricole DataLab, dirigido por Aldrick Zappellini. Está dirigido por Sonia Vanier, investigadora del laboratorio de informática de la École Polytechnique. A través del proyecto de investigación dirigido por esta cátedra, la institución bancaria y la X desean contribuir al desarrollo de sistemas de IA éticos, robustos, seguros y sostenibles. Para ello, se abordarán dos ejes principales en el trabajo de I+D. La primera parte será la definición de las vías para mejorar la fiabilidad de los sistemas de IA. Para ello, se aplicará un enfoque multidisciplinar que implicará a diferentes comunidades de investigación académicas e industriales.

"La sinergia entre los equipos de nuestro laboratorio LIX, nuestros socios académicos e industriales y nuestros estudiantes permitirá desarrollar enfoques para aprovechar al máximo el poder de la IA y prevenir riesgos. La IA está cambiando nuestro mundo, estamos solo al comienzo de estas revoluciones tecnológicas que no hay que temer, sino comprender", subrayó Sonia Vanier, responsable científica y titular de la cátedra, en un comunicado de prensa. La integración del razonamiento a partir del conocimiento empresarial de los equipos operativos facilitará la construcción de modelos que conduzcan a una "toma de decisiones más precisa y coherente" con respecto a los casos de uso. Para lograr una IA fiable, se detectarán y corregirán los sesgos presentes en los datos de entrenamiento que corren el riesgo de reproducirse. Otro punto clave será desarrollar modelos con un recorrido fácilmente interpretable por los usuarios.

Algoritmos para reducir la huella energética

La segunda fase del programa se centra en definir métodos para construir una IA más respetuosa con el medio ambiente. Esto responde al desarrollo de la IA generativa y de los grandes modelos de lenguaje, que requieren cada vez más datos, tiempo de cálculo y, por tanto, recursos informáticos y energéticos. En este contexto, el diseño de algoritmos para aplicaciones con un impacto positivo podría servir, por ejemplo, para optimizar el consumo energético de los edificios conectados. La Politécnica, muy internacionalizada (41% de sus estudiantes, 40% de su personal docente), combina investigación, docencia e innovación.

A través de su oferta formativa (licenciatura, ciclo de ingeniería politécnica, máster, posgrado, doctorado, formación continua), la institución reivindica una cultura científica híbrida que asocia el mundo de la investigación y el de la empresa. Dispone de 23 laboratorios, 22 de ellos unidades de investigación mixtas con el CNRS en su campus de Palaiseau.