Liberamos los algoritmos de Facebook e Instagram en cuentas vacías. Sirvieron al sexismo y la misoginia | Medio

h¿Cómo afectan los algoritmos de Facebook e Instagram a lo que ves en tus noticias? Para descubrirlo, Guardian Australia los desató en un teléfono inteligente completamente en blanco conectado a una dirección de correo electrónico nueva y no utilizada.

Tres meses después, sin ninguna aportación, estaban llenos de contenido sexista y misógino.

Los perfiles de John Doe se crearon en abril como hombres genéricos de 24 años. Facebook pudo recopilar otra información, como el tipo de teléfono y su ubicación en Melbourne, pero decidimos no rastrear los anuncios para que no supiera qué estábamos haciendo fuera de la aplicación.

Facebook tenía poco en qué confiar ante la ausencia de me gusta, comentarios o cuentas agregadas como amigos. Mientras tanto, Instagram hace que los usuarios sigan al menos cinco cuentas para empezar, por lo que hemos elegido las cuentas recomendadas más populares, incluidas las del Primer Ministro y Bec Judd.

Meta dice que sus algoritmos clasifican el contenido según lo que le interesa a la gente, pero queríamos ver adónde nos llevaría en ausencia de dicha información. Revisamos el feed cada dos semanas para comprobar qué se ofrecía.

¿Qué vimos?

Inicialmente, Facebook publicó chistes de The Office y otros memes relacionados con comedias junto con publicaciones de 7 News, Daily Mail y Ladbible. Un día después empezó a mostrar memes de Star Wars y contenido estilo gimnasio o "dudebro".

Al tercer día, empezaron a aparecer memes “tradicionalmente católicos” y el feed viró hacia contenido más sexista.

Tres meses después, memes de The Office, Star Wars y ahora The Boys continúan salpicando el feed, esta vez intercalados con imágenes altamente sexistas y misóginas que han aparecido en el feed sin la intervención del usuario.

En Instagram, si bien la página Explorar se ha llenado de mujeres con poca ropa, el feed es en su mayor parte inofensivo y recomienda principalmente contenido relacionado con Melbourne y personas influyentes en la comida.

Se contactó a Meta para hacer comentarios, pero se negó a responder oficialmente.

En su presentación a la investigación sobre redes sociales del parlamento federal, Meta dice que utiliza "una variedad de algoritmos diferentes" para ayudar a clasificar el contenido que se muestra en los feeds de Facebook e Instagram, algunos de los cuales ayudan a "comprender qué contenido es más significativo para las personas, para que puedan ordenarlos en consecuencia en sus feeds."

La compañía dijo que lo que la gente ve está "muy influenciado por sus elecciones y acciones" y "el feed de cada persona es altamente personalizado y específico para ellos".

"Nuestro sistema de clasificación personaliza el contenido para más de mil millones de personas y tiene como objetivo mostrar a cada uno de ellos el contenido que esperamos que sea más valioso y significativo, cada vez que inician sesión en Facebook o Instagram".

La compañía dice que evalúa las publicaciones basándose en señales como quién las publicó, qué tan populares son, el tipo de dispositivo utilizado, y luego utiliza algoritmos de clasificación para predecir la probabilidad de que la publicación sea relevante y significativa para una persona.

"El objetivo es garantizar que las personas vean lo que les resulte más significativo, no mantenerlos pegados a sus teléfonos inteligentes durante horas y horas".

Meta dijo que también usa la clasificación para evaluar si una publicación podría ser problemática, pero no viola los estándares de la comunidad. Esto incluye clickbait, noticias no originales y publicaciones verificadas como falsas.

Está "integrado en el modelo".

Los hallazgos de Guardian Australia están en línea con experimentos similares realizados en 2022 y 2024 en Australia e Irlanda en YouTube y TikTok, en los que múltiples cuentas creadas por niños y adolescentes se dirigieron hacia contenido de "Manosphere".

La Dra. Stephanie Wescott, profesora de humanidades y ciencias sociales en la Universidad de Monash, realizó una investigación sobre la influencia de personas influyentes de Manosphere como Andrew Tate en niños en edad escolar y le dijo a Guardian Australia que los resultados de nuestra investigación en Facebook no fueron sorprendentes.

“Según la investigación que estoy haciendo y también lo que sabemos [from other research] Esto es lo que sabemos que el algoritmo proporcionará y servirá a los hombres jóvenes, en función de lo que consideremos que captaría su interés”, dijo.

omitir la promoción del boletín

después de la promoción del boletín

"Es un poco degradante para los hombres que el algoritmo haga esta suposición sobre sus intereses... [that] Te gustarán estos memes misóginos".

Nicholas Carah, profesor asociado de medios digitales en la Universidad de Queensland, dijo que el experimento demostró cuán "integrado en el modelo" está proporcionar dicho contenido a los hombres jóvenes en Facebook.

“Necesitamos pensar seriamente en el entorno de información en el que están inmersos los jóvenes, y el problema con las plataformas es que han hecho que ese entorno de información sea completamente oscuro y efímero para todos excepto para esos jóvenes”, dijo.

“Tiene que haber algún tipo de imperativo público en el que las plataformas ayuden a la sociedad civil, periodistas, investigadores, reguladores, quienes sean, a observar cómo son estos flujos de información para que podamos tener algún tipo de comprensión pública, escrutinio público y debate público sobre a ellos".

Wescott dijo que las plataformas deben responder preguntas sobre cómo funcionan los algoritmos, porque actualmente no son responsables.

"Están fuera de reproche y no parecen tener intención de cambiar o limitar su algoritmo de ninguna manera".

'Un río total de basura'

La calidad de lo que se ofrece en Facebook a todos los usuarios en Australia ha disminuido en los últimos años, dice Carah, coincidiendo con la decisión de Meta de rebajar las noticias mientras se prepara para luchar contra las empresas de medios que pagan bajo el código del equipo de negociación de medios australianos.

"Los australianos ahora están inmersos en este río de basura total en Facebook. Tengo un poco de curiosidad, ¿significa esto que todos vamos a seguir navegando por estas cosas? ¿O Facebook realmente está socavando su propio producto aquí?"

Wescott dice que es importante educar a las personas para que evalúen críticamente lo que se les ofrece en las redes sociales y no para que lo acepten como un reflejo de la realidad. Elogia la campaña Stop it at the Start del gobierno federal, que incluye un "Algoritmo de falta de respeto" interactivo que describe lo que un joven podría encontrar en las redes sociales.

El gobierno federal también financió un experimento de tres años y 3,5 millones de dólares para contrarrestar los efectos nocivos de los mensajes de las redes sociales dirigidos a niños y hombres jóvenes.

La ministra de Comunicaciones, Michelle Rowland, dice que las plataformas digitales deben hacer más para garantizar que se respeten los estándares comunitarios tanto en línea como fuera de línea.

"Estamos viendo contenido misógino dirigido a los jóvenes a través de algoritmos y sistemas de recomendación en las redes sociales. Esto simplemente no es lo suficientemente bueno", afirma.

"Nuestra expectativa es clara: las plataformas en línea deben tomar medidas razonables para garantizar que los australianos puedan utilizar sus servicios de manera segura y minimizar de manera proactiva el material y la actividad ilegal y dañina en sus servicios".

La ministra de Servicios Sociales, Amanda Rishworth, dice que abordar las actitudes y comportamientos misóginos en el mundo en línea y fuera de línea ayudará a implementar el plan nacional para poner fin a la violencia contra las mujeres y los niños dentro de una generación.

"Alrededor del 25% de los adolescentes varones en Australia admiran a las personalidades de las redes sociales que perpetúan estereotipos de género dañinos y toleran la violencia contra las mujeres; es impactante", dice.

"Y especialmente si este contenido se publica en las redes sociales de hombres jóvenes sin ninguna interacción, las empresas de redes sociales deben hacer más".