James Muldoon, Mark Graham y Callum Cant: "La inteligencia artificial se alimenta del trabajo de los humanos" | Inteligencia artificial (IA)

james Muldoon es profesor de Gestión en la Universidad de Essex, Mark Graham es profesor en el Oxford Internet Institute y Callum Cant es profesor titular en la Facultad de Economía de la Universidad de Essex. Trabajan juntos en Fairwork, un proyecto que evalúa las condiciones laborales en lugares de trabajo digitales, y son coautores de Alimentar la máquina: el trabajo humano oculto que alimenta la inteligencia artificial.

¿Por qué escribiste el libro?
James Muldoon: La idea del libro surgió del trabajo de campo que hicimos en Kenia y Uganda en el área de anotación de datos. Hablamos con varios anotadores de datos y las condiciones laborales eran simplemente horribles. Y pensamos que esta era una historia que todos necesitaban escuchar. Personas que trabajaban por menos de 2 dólares la hora con contratos precarios, trabajo que se subcontrata predominantemente al sur global debido a lo difícil y peligroso que puede ser.

¿Por qué África Oriental?
Mark Graham: Comencé a investigar en África Oriental en 2009, en realidad sobre el primero de lo que serían muchos cables submarinos de fibra óptica que conectarían África Oriental con el resto del mundo. Y en lo que se centró la investigación fue en lo que significaba esta nueva conectividad para las vidas de los trabajadores en África Oriental.

¿Cómo consiguieron acceso a estos lugares de trabajo?
Mark Graham: En Fairwork la idea básica es que establezcamos principios de trabajo decente y luego evalúemos a las empresas en función de estos. Les damos una puntuación sobre 10. Y así fue como las empresas de Nairobi y Uganda se abrieron a nosotros, porque les íbamos a dar una puntuación y ellos querían una puntuación mejor. Fuimos a ellos con un cero sobre 10 y les dijimos: "Miren, hay trabajo por hacer para mejorar".

¿Y las empresas son receptivas? ¿Disputan tus bajas puntuaciones?
Mark Graham: Hay una amplia gama de respuestas. Algunos argumentan que las cosas que les pedimos que hagan simplemente no son posibles. Dirán cosas como: "No es nuestra responsabilidad hacer estas cosas". Lo bueno de las puntuaciones es que podemos señalar otras empresas que las están haciendo. Podemos decir: "Mira, esta empresa hace esto. ¿Qué te pasa? ¿Por qué no puedes tener esta condición para tus trabajadores?".

¿Puedes contarnos sobre los ecos del colonialismo que encontraste en este trabajo de datos?
Mark Graham: El antiguo ferrocarril de África Oriental conectaba Uganda con el puerto de Mombasa. Fue financiado por el gobierno británico y se utilizó básicamente para extraer recursos del este de África. Lo interesante de la conectividad de fibra óptica en África Oriental es que recorre una ruta muy similar a la del antiguo ferrocarril, y eso también es una tecnología minera.

¿Podrías explicar tu concepto de “máquina de extracción”?
Callum Cant: Cuando vemos un producto de IA, tendemos a pensar que se creó de forma relativamente espontánea y no pensamos en el trabajo humano, los recursos necesarios y todo lo demás que implica.

Para nosotros la máquina de extracción es una metáfora que nos permite pensar mucho más en quién trabajó, quién utilizó recursos, quién utilizó energía, quién utilizó tiempo en ese proceso. El libro es un intento de pasar de esta apariencia superficial de una página web sofisticada o imágenes de redes neuronales a observar la realidad encarnada de cuándo ocurre esto en su lugar de trabajo, cómo se ve la IA y cómo interactúa con las personas.

James Muldoon: Creo que mucha gente se sorprendería al descubrir que el 80% del trabajo detrás de los productos de IA es en realidad anotaciones de datos, no ingeniería de aprendizaje automático. Y si se toma el ejemplo de un vehículo autónomo, una hora de datos de vídeo requiere 800 horas humanas de anotación de datos. Es una forma de trabajo increíblemente intensiva.

¿En qué se diferencia este concepto de la idea de capitalismo de vigilancia de Shoshana Zuboff?
James Muldoon: El capitalismo de vigilancia describe mejor a empresas como Google y Facebook que ganan dinero principalmente a través de publicidad dirigida. Es una descripción adecuada de un canal de datos a publicidad, pero en realidad no capta el papel infraestructural más amplio que desempeñan ahora las grandes tecnologías. The Mining Machine es una idea que desarrollamos para hablar más ampliamente sobre cómo las grandes tecnologías se alimentan del trabajo físico e intelectual de los seres humanos, ya sean trabajadores de Amazon, creativos, anotadores de datos o moderadores de contenido. En realidad, es un concepto mucho más visceral, político y global mostrar las formas en que estas empresas explotan y extraen todo nuestro trabajo.

Muchas de las preocupaciones sobre la IA han girado en torno a los riesgos existenciales o a cómo la tecnología puede reforzar las desigualdades y los sesgos que existen en los datos con los que se entrena. Pero, ¿está usted argumentando que la simple introducción de la IA en la economía crea toda una serie de otras desigualdades?
Callum Cant: Podemos ver esto muy claramente en un lugar de trabajo como Amazon. El sistema de inteligencia artificial de Amazon, su tecnología de organización de la cadena de suministro, ha automatizado el proceso de pensamiento, y lo que los humanos se ven obligados a hacer en un almacén de Amazon es este proceso de trabajo brutal, repetitivo y de alto estrés. Se termina con tecnología que se supone automatiza el trabajo menor y crea libertad y tiempo, pero en realidad lo que se obtiene es que las personas se ven obligadas a realizar trabajos más rutinarios, aburridos y menos cualificados mediante la inclusión de sistemas de gestión algorítmicos en sus lugar de trabajo.

En un capítulo del libro escribes sobre Chloe, una actriz irlandesa, que descubrió que alguien estaba usando una copia de su voz generada por IA. Esto se parece a la reciente disputa entre Scarlett Johansson y OpenAI. Tienes una plataforma y las finanzas para desafiar esto, la mayoría de la gente no los tiene.
Callum Cant: Muchas de las soluciones no son realmente individuales, sino que se basan en el poder colectivo. Porque, como todos los demás, no tenemos la capacidad de decirle a OpenAI qué hacer. No les importa si algunos autores piensan que están aplicando un régimen de extracción que roba información. Estas empresas están financiadas con miles de millones de libras de capital y realmente no necesitan preocuparse por lo que pensemos de ellas.

Pero colectivamente identificamos varias formas en las que podríamos responder y comenzar a intentar transformar la forma en que se implementa esta tecnología. Porque creo que todos reconocemos que hay potencial emancipador aquí, pero para llegar allí, se necesitará una enorme cantidad de trabajo colectivo y conflicto en muchos lugares, porque hay personas que se están volviendo inmensamente ricas con esto y hay decisiones hechas por un puñado muy, muy pequeño de personas en Silicon Valley que están empeorando nuestras vidas. Y hasta que los obliguemos a cambiar la forma en que lo hacen, no creo que obtengamos una mejor forma de tecnología.

¿Qué le gustaría decirles a los lectores? ¿Qué acciones podrían tomar?
Callum Cant: Todas las personas se encuentran en posiciones tan diferentes que es difícil dar consejos universales. Si alguien trabaja en un almacén de Amazon, organiza a tus colegas y usa tu influencia contra tu jefe. Si alguien trabaja como actor de doblaje, entonces deberá hacer arreglos con otros actores de doblaje. Pero cada uno tendrá que responder a esto en sus propias condiciones y es imposible hacer un diagnóstico.

Todos somos clientes de las grandes tecnologías. ¿Deberíamos, por ejemplo, boicotear a Amazon?
Callum Cant: Creo que organizarse en el trabajo es más eficaz, pero organizarse como consumidores también tiene un papel que desempeñar. Si hay diferencias claras y oportunidades para utilizar su consumo de manera rentable, entonces por todos los medios, especialmente si los trabajadores involucrados lo solicitan. Si los trabajadores de Amazon piden un boicot, digamos, el Viernes Negro, entonces animamos a la gente a escucharlo. Absolutamente. Pero debe haber un conjunto de principios que guíen cualquier acción que la gente emprenda en cualquier lugar, y el principal es que la acción colectiva es el principal camino a seguir.