Un agente de conversación para agentes del Ministerio de las Fuerzas Armadas, disponible en la red interna Intradef. Reveló Por primera vez en febrero pasado, la aplicación Genial.Intradef fue desarrollada por el Centro de datos de experiencia e IA (CEDIA) de la Secretaría General de la Administración, una estructura creada en junio pasado sobre la base de un laboratorio que, por su parte, ya tenía casi 10 años de existencia.

"Desde agosto de 2023, el ministerio tuvo la voluntad de establecer una solución interna soberana que reproduzca las interfaces conversacionales presentes en el público en general", dijo Guillaume Vimont, jefe de la Cedia. Desarrollado en infraestructura de los menares, en particular sobre la base de la tecnología elástica, la solución ofrece funciones clásicas de asistentes: resumen de documentos, traducción, transcripción, pero también reconocimiento de caracteres. "Hemos trabajado mucho con el código abierto y con los pesos abiertos (acceso a los parámetros de las neuronas desde la capacitación previa, nota del editor) para los modelos de Genai, que son palancas interesantes para las tecnologías apropiadas. Esto es lo que hizo posible pasar el servicio en una escala", dice Guillaume Vimont.

Un despliegue atascado en la disponibilidad de GPU

Queriendo evitar el desarrollo de usos de tecnología no aprobados, la IA de la sombra, el ministerio ha optado por poner rápidamente a su asistente en producción. "Esta elección también permitió resaltar el valor inmediato que los oficios encontraron allí y dibujar pistas de evolución para la plataforma", subraya al gerente del centro de experiencia. Ya en diciembre de 2023, estaba disponible un prototipo de genialidad, seguido en 2024 por un alcance progresivo. "Porque enfrentamos un problema de disponibilidad de recursos en GPU en nuestra infraestructura", dice Guillaume Vimont. La aplicación está realmente abierta a mediados de diciembre y ahora tiene unos 35,000 usuarios, con una tasa de más de 1000 conectadas cada día. En última instancia, el minarmes tiene la intención de equipar entre 60,000 y 95,000 personas con su asistente.

Un pasaje de alcance acompañado de inversiones por parte del ministerio. De la infraestructura, por supuesto. Pero también en los equipos. "A mediados de 2023, éramos 1.5 FTE para garantizar el diseño de un pequeño prototipo", recuerda Guillaume Vimont. Para la fase de industrialización, el laboratorio se ha convertido en un centro que reúne a una docena de ingenieros, asistido por el equipo de Amiad ", la Agencia de Inteligencia Artificial de Defensa Ministerial que ya tiene más de 100 ingenieros.

Modelos Reoren de pesas abiertas

Por el momento, Greatial es similar a "un producto de consumo, pero suficientemente especializado para cumplir con las limitaciones internas", según el experto. Por ejemplo, el asistente podría recuperar de 10 a 2 el número de viajes redondos a las notas del personal entre editores y reladores. "Pero el objetivo ahora consiste en tratar con más casos orientados a los negocios en esta plataforma", dice Guillaume Vimont. Para construir su asistente, el minarm se basa en modelos disponibles gratuitamente. "No nos congelamos en un modelo en particular, porque este mercado evoluciona rápidamente", dice el gerente. Pero los modelos deben cumplir con nuestros criterios en términos de pesos abiertos, evaluación de riesgos o licencias. Sin olvidar una serie de parámetros adaptados a nuestra infraestructura. »»

Sobre esta base, el centro de especialización se centra en el ajuste de los modelos, con el vocabulario específico del ministerio, pero también con "su visión del mundo". Para estas fases de especialización, el Minarm también ha recopilado los datos por la aplicación (en entradas/salidas particulares) desde agosto de 2023. "Millones de grabaciones almacenadas con una política de acceso de acceso según la necesidad de saber sobre ella", especifica Guillaume Vimont, o la política de restricción de acceso a información específica a militar e inteligencia.

¿Hacia un modelo de base fabricado por el mimario?

¿Una base que finalmente podría permitir que el ministerio cause su propio modelo de base? El gerente del centro de especialización no descarta por completo la hipótesis, especialmente desde que el ministerio anunció, en octubre de 2024,, Adquisición de una supercomputadora Para entrenar y especializar modelos de IA, una máquina cuya puesta en marcha se espera este año, pero indica que todavía es "demasiado temprano" para frotar tal desarrollo. "Esta es una opción que tenemos en cuenta si los pesos abiertos desaparecieran", agrega.

Sin esperar estas posibles inflexiones, Cedia está trabajando actualmente en la integración de modelos multimodales, capaces de procesar imágenes o sonidos. Esperado para el próximo lunes, de las primeras funciones multimodales, que requirieron una recuperación de modelos, permitirá a los agentes del ministerio mejorar grandes silos de datos previamente fuera del alcance de Greatial.