Desde finales de 2022, el fenómeno ChatGPT ha arrasado en el espacio digital, afectando inevitablemente a las empresas. Sin embargo, debido a sus características intrínsecas (alucinaciones frecuentes, exfiltración de datos integrados en avisos, etc.), la herramienta OpenAI no se adapta bien a las limitaciones profesionales. Y el mundo de los LLM (Large Language Model, la base tecnológica de ChatGPT) se ha vuelto rápidamente más complejo desde entonces, con la aparición de un gran número de modelos más o menos eficientes en función de las tareas que se les asignan.

Vea la emisión de la redacción de Le Monde Informatique y CIO con testimonios de Crédit Agricole, Veolia y Club Med (vídeo, 54 min.)

Por todas estas razones, las grandes empresas han puesto en marcha estrategias específicas, que suelen tener como objetivo inicial el aumento de la productividad interna. "Primero tuvimos que poner en común nuestras ideas dentro del grupo para entender la tecnología y más allá, definir la forma en que íbamos a experimentar con ella y luego ampliarla", explica Aldrick Zappellini, director de datos de Crédit Agricole. "Reunimos rápidamente a unas quince entidades para desarrollar una estrategia de adopción controlada de la IA generativa". Una estrategia basada en la experimentación con los casos de uso más prometedores.

Proponer una respuesta, mantener las fuentes rastreables

El banco optó inicialmente por limitarse a usos internos: por ejemplo, no se planteó la posibilidad de abrir un chatbot para los clientes. "Luego, definimos condiciones más técnicas para estos experimentos: solo realizamos nuestras pruebas en entornos que controlamos", continúa el CDO. Los equipos de este último también desarrollaron un marco común para evaluar los resultados de los experimentos y los beneficios que pueden derivarse de ellos. "La tecnología ha sido ampliamente utilizada por todas las profesiones asociadas con un gran volumen de procedimientos, normas y regulaciones. El chatbot (desarrollado por el banco para probar usos internos, ndlr) permite entonces escribir una respuesta a una pregunta, al tiempo que se rastrean las fuentes", indica el CDO.

En el sector colaborativo, las experiencias de Crédit Agricole con Microsoft Copilot involucran a 300 empleados de distintas profesiones. "La primera constatación es que la integración en un puesto bancario, que es muy seguro por naturaleza, requiere un trabajo preparatorio. Las funciones muy empaquetadas integradas en Teams son populares: informes de reuniones, resúmenes de conversaciones, la posibilidad de ponerse al día con los primeros intercambios de una reunión a la que se llega tarde", explica Aldrick Zappellini. "En Word y PowerPoint, es necesario aprender las indicaciones y vamos a centrar nuestros esfuerzos en eso. La oferta aún está un poco por detrás en Excel". Pero el CDO insiste en la necesidad de mantener un espíritu crítico con respecto a los resultados que ofrece la tecnología. "Estamos en una lógica de ganancias de productividad, pero el empleado sigue siendo responsable del contenido producido".

Una aplicación que se ha convertido en un conjunto de API

En Veolia, el departamento de TI del grupo decidió desde el principio desarrollar una aplicación para probar los diferentes usos de la IA generativa con todos sus más de 100.000 empleados. Inaugurada en 2023, SecureGPT (así se llama) permite conversar con un LLM, traducir documentos y cargar los propios documentos de trabajo para consultarlos (es decir, un enfoque RAG). "La aplicación ya ha evolucionado y ahora permite consultar bases de conocimiento muy grandes, con varias decenas de miles de archivos cada una, o generar imágenes para necesidades internas y externas. Además, el servicio ha pasado de ser una aplicación a una plataforma API, lo que permite a los empleados y a los departamentos de TI del grupo construir arquitecturas modulares", explica Fouad Maach, responsable de arquitectura en el departamento de TI del grupo Veolia.


Fouad Maach, responsable de Arquitectura del Departamento de TI del Grupo Veolia: «El objetivo es ofrecer, en función del caso de uso y del perfil del usuario, un LLM rápido y optimizado».

Para estos últimos, la tasa de adopción del servicio -utilizado actualmente por más de la mitad de los empleados del grupo- es un buen indicador de la irrupción de la tecnología y de su utilidad en la vida diaria de los empleados. "Hemos recibido comentarios muy positivos de las funciones de soporte y numerosas solicitudes de las líneas de negocio -agua, residuos y energía- para implementar el servicio vía API con el fin de enriquecer las aplicaciones existentes", indica el arquitecto jefe. "También es una revolución en los usos. Por tanto, debemos acompañar a los usuarios para que comprendan mejor los puntos fuertes y débiles de este tipo de herramientas". Para ello, Veolia ha puesto en marcha formaciones teóricas y prácticas a gran escala, con campeones formados en todas las filiales para multiplicar el programa.

Vea la emisión de la redacción de Le Monde Informatique y CIO con testimonios de Crédit Agricole, Veolia y Club Med (vídeo, 54 min.)

"La plataforma sigue expandiéndose, en particular con una amplia variedad de modelos LLM", asegura Fouad Maach. "El objetivo es identificar el LLM más relevante para los diferentes casos de uso y enriquecer una biblioteca de sugerencias para ofrecer, en función del caso de uso y del perfil del usuario, una sugerencia y un LLM optimizados". También es una forma de limitar los costes y el impacto medioambiental de la tecnología.

Gemini para indexar imágenes

La IA generativa también ha revolucionado los hábitos de los empleados de Club Med, como explica su Chief Data Officer, Siddharta Chatterjee. "Decidimos ser pioneros en el uso de la IA generativa, con el objetivo de mejorar la experiencia del cliente y aumentar la eficiencia interna. Desde hace más de un año, trabajamos en casos de uso en ambas direcciones", explica nuestro invitado. En particular, con un chatbot dedicado a los asesores que se encargan de la preparación de las vacaciones de los clientes del grupo de ocio con 25.000 empleados, con el fin de acelerar la búsqueda de información en lenguaje natural sobre los 70 resorts de Club Med. O con la indexación de imágenes. "Exploramos las capacidades multimodales de la tecnología para etiquetar automáticamente las imágenes, con Gemini, el LLM de Google. Los resultados son muy satisfactorios e incluso superiores a la indexación manual", asegura el CDO. Quien además destaca: "En todos estos casos de uso enfocados a nuestros empleados, hemos adoptado un enfoque de abajo a arriba, comenzando por los puntos críticos que sienten los equipos para priorizar los casos de uso. Y los empleados están muy interesados ​​en la tecnología, que se ha convertido en el primer tema de formación interna". Aunque la llegada de GenAI también genera inquietudes entre los equipos, reconoce Siddharta Chatterjee.


Siddharta Chatterjee, CDO de Club Med: “La calidad y disponibilidad de los datos son factores esenciales para el éxito de las implementaciones”.

Club Med ha adaptado ahora el chatbot creado para sus asesores a sus clientes. La herramienta se ha probado en Brasil, a través del canal WhatsApp, muy utilizado a nivel local. "Esta herramienta es capaz de gestionar por sí sola el 40% de las solicitudes de los clientes relacionadas con preguntas sobre nuestros resorts y el 80% de ellos están satisfechos con las respuestas proporcionadas", explica Siddharta Chatterjee, que ahora aspira a una implantación a mayor escala y a una ampliación de las capacidades de la herramienta para proporcionar presupuestos.

Pero, para el CDO, los diversos experimentos realizados hasta ahora muestran que esta tecnología no es completamente llave en mano, contrariamente a lo que sugieren los discursos de marketing de los editores. "Y, para las herramientas conversacionales, la calidad de los datos y su disponibilidad son factores esenciales para el éxito de las implementaciones", subraya el CDO. De lo contrario, se destruiría la confianza de los usuarios, internos o externos, en estas herramientas. "El tema de la gobernanza vuelve a ser atractivo, porque, con la IA generativa, se necesita una calidad de datos casi perfecta".

Vea la emisión de la redacción de Le Monde Informatique y CIO con testimonios de Crédit Agricole, Veolia y Club Med (vídeo, 54 min.)