La IA en todas sus formas moviliza hoy a muchas empresas, editores o usuarios. También ha entrado de forma espectacular en los usos más habituales con los LLM (grandes modelos de lenguaje) liderados por ChatGPT, Midjourney, Dall-E y luego Copilot, Gemini y otros Mistral. Pero en este Día Internacional de la Mujer, podemos preguntarnos: ¿cuál es el lugar de las mujeres en este gran desarrollo? Según una de las pocas mediciones realizadas sobre el tema en el marco del Informe sobre la brecha de género del Foro Económico MundialSolo el 30% de ellas trabaja en estas profesiones, apenas un porcentaje superior al de las mujeres que trabajan en el sector de las TI en todo el mundo, que desde 2020 oscila entre el 26 y el 28% en todo el mundo. Y esto está muy lejos de la igualdad.

"Parece que en Europa la IA atrae más a las mujeres que otros ámbitos de la informática", confirma Isabelle Collet, profesora de la Universidad de Ginebra (género e informática, coeducación, género en la escuela, género y formación del profesorado). "Sin embargo, es difícil saber exactamente por qué. Una de las hipótesis que se pueden plantear es que, en comparación con el desarrollo o las infraestructuras, la IA todavía no sufre demasiado los estereotipos asociados a los geeks y que supuestamente asustan a las mujeres".

La falla de los datos

Las mujeres representan la mitad de la población del planeta (49,6% en 2021 según el informe World Population Prospects 2021 de la ONU). ¿Cómo afecta su infrarrepresentación en la IA a esta tecnología, a los resultados que genera y, más ampliamente, a la sociedad? Según Isabelle Collet, el problema radica más en los datos de entrenamiento que en el desarrollo de soluciones o en la redacción de algoritmos. "Simplemente hay lagunas en los conjuntos de datos recopilados para alimentar a las IA", señala. "Algunos ni siquiera existen". Olivier Martinez, fundador de 255Hex.ai, consultora de IA generativa, confirma: "Un LLM de tipo GPT se entrena con lo que hay en Internet. Es decir, el punto de vista de hombres blancos mayores de 50 años de América del Norte o Europa Occidental. Estas IA están a nuestra imagen y semejanza".

"Otro problema importante para las mujeres es que la IA amenaza muchas profesiones muy feminizadas, que no tienen los medios para hacerse oír, como la asistencia social", insiste Isabelle Collet, profesora de la Universidad de Ginebra (Foto DR)

Un desequilibrio que parece difícil, si no imposible, de corregir. Isabelle Collet, por ejemplo, recuerda una conversación con un investigador en reconocimiento de voz. “Es extremadamente complejo llenar los vacíos en los conjuntos de datos para este tipo de trabajo. Estos investigadores tienen conjuntos de datos que contienen principalmente grabaciones de hablantes masculinos espontáneos, de los medios de comunicación”, dice. “Es decir, décadas de soluciones de entrenamiento con voces en las frecuencias bajas…” Y, por lo tanto, una subrepresentación crónica de las voces femeninas. “Por lo tanto, incluso con el deseo de obtener más diversidad en los datos, se necesitaría un tiempo extremadamente largo para compensar este déficit, ya que sería necesario volver a entrenar”.

Los inevitables sesgos conscientes o inconscientes

Además, la abrumadora presencia de hombres en los equipos de diseño, desarrollo y entrenamiento de las IA introduce evidentemente sesgos en los resultados. Algunos son voluntarios, pero muchos otros son inconscientes. “Sencillamente, los hombres no tienen una experiencia situada como mujeres”, recuerda Isabelle Collet. Sin siquiera hablar de IA, durante mucho tiempo, ninguna aplicación móvil abordaba temas específicos para mujeres, como el seguimiento de los ciclos menstruales, por ejemplo. Los desarrolladores, predominantemente hombres, simplemente no pensaron en ello”.

Añade que la presencia de mujeres tampoco garantiza que esto cambie, porque muchas de ellas adoptan los mismos hábitos. Olivier Martínez señala también que "intentar corregir estos sesgos equivale a crear otros. La contrapropuesta es otro sesgo. La IA refleja la sociedad, con sus sesgos. Pero no más que la televisión y los medios de comunicación de masas en los años 80 y 90. Tenían el mismo poder de impacto".

¿La única solución: ética desde el diseño?

Para Isabelle Collet, existe una especie de competencia entre prejuicios y discriminaciones. Por tanto, una mayor proporción de mujeres en la IA no es necesariamente la única clave. "Para desarrollar soluciones con un fuerte impacto en la sociedad, se necesitan ética y equidad desde el diseño", opina la profesora de la Universidad de Ginebra. "En particular, necesitamos representantes de las ciencias sociales y humanas en los equipos".

Por último, Isabelle Collet considera que no hay que olvidar otra cuestión importante: "Hablamos de cómo la IA generativa amenaza los puestos de trabajo de abogados, médicos o periodistas, por ejemplo. Son profesiones que se defienden a viva voz. Pero la IA también atacará a muchas profesiones muy feminizadas que no tienen los medios para hacerse oír, como la asistencia social. Austria ya está probando la IA para sustituir a los asesores profesionales, que son en su mayoría asesores mujeres". Baste decir que, por el momento, la IA no es una buena noticia para las mujeres.