Facebook e Instagram buscarán sesgos racistas en sus algoritmos

Decir que el tema de la igualdad racial es objeto de un debate especialmente acalorado en este momento sería quedarse corto. En consonancia con el movimiento Black Lives Matter, las sociedades de todo el mundo han sido testigos del surgimiento de movimientos que requieren transformaciones profundas para detener un problema que se ha vuelto sistémico. Los gigantes del entretenimiento y la tecnología, por su parte, también han abordado el tema y ya han puesto en marcha diversas medidas para combatir la discriminación a su manera. En los últimos días, Facebook se ha mostrado particularmente activo en este tema. Hace unos días, supimos que Instagram, que es propiedad de Facebook, iba a pasar por todos sus algoritmos para evitar la discriminación contra los usuarios de piel negra.

1 / Nos solidarizamos con la comunidad negra. Pero eso no es suficiente. Las palabras no son suficientes. Es por eso que estamos comprometidos a analizar las formas en que nuestras políticas, herramientas y procesos impactan a las personas negras y otros grupos subrepresentados en Instagram.

- Adam Mosseri 😷 (@mosseri) 15 de junio de 2020

Pero parece que Mark Zuckerberg no tiene la intención de quedarse ahí, y quiere extender esta iniciativa a la empresa matriz. La empresa anunció a El borde a través de un portavoz que acababa de configurar un equipo cuya única tarea será “Garantizar la justicia y el desarrollo de productos equitativo en todo lo que [Facebook] hecho." Esta es una gran novedad para la empresa, que hasta ahora se ha negado sistemáticamente a investigar el problema. Esta decisión es ciertamente en parte el resultado de las presiones a las que ha estado sometida Facebook durante mucho tiempo, pero en particular desde la muerte de George Floyd que prendió fuego a los polvos. De hecho, la empresa tiene una relación complicada con estos temas de igualdad racial. Entre la bajísima proporción de empleados negros dentro de la empresa y la discriminación a la que serían sometidos, las acusaciones de censura de grupos subrepresentados y los numerosos escándalos y controversias sobre el tema, el gran jefe de las redes sociales nunca ha sido realmente un estudiante modelo en esta área. Una imagen agravada aún más por el "Corporativo" por Mark Zuckerberg sobre estos temas, que a menudo han sido juzgados "pequeño sincero", "no Convincente"O incluso directamente"decepcionante“.

En este contexto, habrá que estar atentos a las conclusiones de los equipos que se sumergirán en los algoritmos de Facebook e Instagram. Si no encuentran prejuicios raciales, ya podemos esperar una reacción violenta. Pero incluso si este equipo encuentra lo que busca, no debemos reclamar la victoria demasiado rápido porque es la firma la que se encargará de actuar en consecuencia para corregirlos.