En las discusiones con los CIO sobre IA, el término confianza es recurrente. Sin embargo, no se puede decretar y debe ser posible aportar pruebas. En este contexto, en 2019 se creó el programa de investigación Confiance.ai, que reúne a investigadores (laboratorios y universidades) y empresas (Renault, Air Liquide, Airbus, Thales, etc.) para trabajar en este tema. "Muchas empresas han trabajado en PoC en torno a la IA, pero ampliarlo a infraestructuras críticas es más complicado", explica Juliette Mattioli, presidenta del comité de dirección del programa y experta en IA de Thales, durante una rueda de prensa en el Ministerio de Economía y Finanzas.
Por lo tanto, era importante trabajar en puntos de referencia y una metodología (disponible en este sitio) para validar y certificar componentes de IA listos para integrarse en estos sistemas industriales. Después de tres años de trabajo, la organización ha publicado "una metodología de extremo a extremo que abarca desde la especificación hasta el mantenimiento operativo con atributos de confianza sobre la calificación de los datos, la robustez y el seguimiento, la explicabilidad y la trazabilidad, así como la capacidad de integrar el componente", explica Juliette Mattioli. Añade que estos diferentes elementos han sido calificados por usos reales. Paralelamente a esta metodología, el programa publica un mercado Con herramientas de código abierto y propietarias que se han utilizado para probar y certificar los diferentes ladrillos, cabe señalar que los sistemas de IA estudiados no incluyen LLM ni IA generativa. "Hay muchos errores, problemas de fiabilidad de las fuentes y están expuestos a ataques", explica Fabien Mangeant, director científico de informática y ciencia de datos de Air Liquide y presidente del comité de dirección de Confiance.ai.
La metodología presentada incluye un sitio web y un catálogo de herramientas. (Crédito de la foto: Confiance.ai)
Air Liquide optimiza el recuento de botellas
Entre los usos probados, Air Liquide ha probado varios. Un ejemplo es el de la visión artificial para analizar mediante un pórtico equipado con cámaras la carga de botellas en los camiones que entran en la planta. El objetivo es conocer el número exacto de botellas para conocer las existencias y planificar las operaciones de llenado de gas diarias o semanales. El problema era que "el algoritmo es sensible a las condiciones meteorológicas (lluvia, nieve) o al día y a la noche. Estos riesgos pueden provocar errores", recuerda Fabien Mangeant.
El recuento de la carga de las botellas se realiza mediante cámaras y visión artificial. (Crédito de la foto: Air Liquide)
El grupo industrial se basó en el trabajo del programa para mejorar este recuento en diferentes condiciones. En concreto, se realizó un entrenamiento previo de los datos para "depurar" determinadas imágenes, por ejemplo tomando fotos de noche y adaptándolas a la luz del día, o eliminando las gotas de lluvia o los copos de nieve. Con este método, la precisión del recuento aumentó hasta el 98% y el número de errores se redujo en un 50%.
Vehículo autónomo y asistencia al aterrizaje
Otros fabricantes también han recurrido a la generación de imágenes sintéticas (fotografías creadas artificialmente para que el modelo aprenda a detectar errores y analizar mejor las imágenes reales). Es el caso de la industria del automóvil para reconocer imágenes que contienen nieve. El modelo de visión artificial se entrenó con más de 37.000 imágenes reales (sin nieve) y más de 5.500 imágenes con nieve. El entrenamiento del modelo duró 7 días en 2 GPU Nvidia Tesla V100. El objetivo de esta investigación es obtener un buen nivel de precisión de cara a la conducción autónoma. "Hoy en día, todavía hay errores", subraya Amélie Bosca, científica de datos de Sopra Steria. Indica, por ejemplo, que en las fotos nocturnas, los postes se convierten en semáforos.
Un experimento se centra en el reconocimiento de la nieve en los vehículos. (Crédito de la foto: DR)
Airbus también está probando este enfoque en la aviación con el conjunto de datos LARD (detección de pista de aproximación al aterrizaje) para la asistencia al aterrizaje. En este caso, el fabricante de aviones generó alrededor de 15.000 imágenes sintéticas y 1.800 imágenes reales. En la primera, Airbus trabajó con Google Earth Studio para generar escenarios (pista con montañas, agua, arena, etc.) comparándolos con imágenes reales. En este experimento, se probó la calificación de los datos, la robustez de los modelos de IA, la capacidad de integrarlos en entornos restringidos (aviones) y se pudieron integrar en la metodología Confiance.ai.
Airbus entrenó un modelo de IA con imágenes sintéticas y del mundo real. (Crédito de la foto: Airbus)
En el futuro, Confiance.ai trabajará en la IA generativa a pesar de las reservas expresadas anteriormente. Para desarrollar atributos de confianza, el programa de investigación ampliará los casos de uso. También quiere desarrollar una oferta de software para el ecosistema.
Otras noticias que te pueden interesar