A medida que la tecnología se enfrenta a un ajuste de cuentas, lo que haces sin conexión puede hacer que te prohíban

(Mundo Informático) - A principios de este mes, Twitch anunció que comenzaría a prohibir a los usuarios que se comporten fuera de su sitio.

La medida de la plataforma de transmisión en vivo de Amazon Inc implicó la contratación de un bufete de abogados para realizar investigaciones sobre la mala conducta de los usuarios, un nuevo giro en el último ejemplo destacado de empresas de tecnología que actúan con comportamiento "fuera del servicio".

La forma en que las plataformas hacen cumplir las actividades realizadas no solo en sus servicios, sino también en otros sitios y fuera de línea, a menudo solo se describe vagamente en sus reglas. Pero a medida que los legisladores e investigadores examinan la relación de la tecnología con la violencia o el daño del mundo real, esta moderación está ganando atención.

Si bien algunos grupos han elogiado a las plataformas por ser proactivas en la protección de los usuarios, otros las critican por infringir las libertades civiles.

"Esto no es moderación de contenido, es moderación de conducta", dijo Corynne McSherry, directora legal del grupo de derechos digitales Electronic Frontier Foundation, quien dijo que estaba preocupada por las plataformas que luchan por moderar de manera efectiva el contenido en sus propios sitios extendiendo su alcance.

En entrevistas, los jefes de políticas de la plataforma describieron cómo trazaron diferentes líneas en torno a las acciones fuera del servicio que podrían afectar sus sitios, reconociendo un campo minado de desafíos.

"Nuestro equipo está buscando en la web una serie de plataformas y canales diferentes en los que sabemos que nuestros creadores tienen presencia ... para comprender lo mejor posible las actividades en las que participan allí", dijo Laurent Crenshaw, responsable de políticas dirígete a Patreon, un sitio donde los fanáticos pagan suscripciones por el contenido de los creadores.

Las reglas de Facebook Inc prohíben a los usuarios que consideran peligrosos, incluidos los involucrados en actividades terroristas, grupos de odio o criminales organizados, delincuentes sexuales condenados y asesinos en masa. La mayoría de las personas que han asesinado a una persona están permitidas, dijo una portavoz, debido al volumen del crimen. El año pasado, Facebook amplió la lista para incluir "movimientos sociales militarizados" y "redes de conspiración que inducen a la violencia" como QAnon.

Las nuevas reglas de Twitch dicen que puede prohibir a los usuarios por "actuar deliberadamente como cómplices de actividades sexuales no consensuales" o acciones que "comprometerían directa y explícitamente la seguridad física de la comunidad de Twitch", categorías que una portavoz dijo que eran intencionalmente amplias.

El cambio de Twitch en la política reut.rs/3ewoCgf se debió en gran parte al momento #MeToo de la industria del juego en el verano de 2020, cuando el sitio sufrió acoso en eventos de juegos de la vida real y en sitios como Twitter y Discord, dijo a Mundo Informático la directora de operaciones Sara Clemens.

Mirar más allá de sus propios sitios ha ayudado a las empresas a eliminar a los extremistas y a otras personas que han "aprendido los detalles" de las reglas del sitio para permanecer en línea, dijo Dave Sifry, vicepresidente del Centro de Tecnología y Sociedad de la Liga Anti-Difamación, que ha presionado para lograr importantes plataformas para incorporar este comportamiento en las decisiones.

El sitio de autoedición Medium estableció reglas de comportamiento fuera del servicio en 2018, después de darse cuenta de que los asistentes al mitin nacionalista blanco de agosto de 2017 en Charlottesville que no habían violado las reglas en sitios específicos parecían ser "malos actores en Internet en general", dijo.

Las protestas del verano pasado por el asesinato de George Floyd llevaron a Snap Inc a hablar públicamente sobre las reglas fuera de la plataforma: el CEO Evan Spiegel anunció que Snapchat no promovería las cuentas de personas que inciten a la violencia racial, incluso fuera de la aplicación. En diciembre de 2020, TikTok actualizó sus pautas comunitarias para decir que usaría la información disponible en otros sitios y fuera de línea en sus decisiones, un cambio que una portavoz dijo que lo ayudó a actuar contra los grupos de milicias y extremistas violentos.

En particular, este año, sitios como Facebook, Twitter Inc y Twitch tomaron en cuenta las acciones fuera del servicio del ex presidente de los Estados Unidos, Donald Trump, que llevaron a sus partidarios a irrumpir en el Capitolio de los Estados Unidos el 6 de enero cuando lo prohibieron.

DEL ASESINATO AL LAVADO DE DINERO

Las empresas de tecnología difieren en los enfoques del comportamiento fuera de la plataforma y la forma en que aplican sus reglas puede ser opaca e inconsistente, dicen los investigadores y los grupos de derechos.

Twitter, un sitio donde los nacionalistas blancos como Richard Spencer continúan operando, enfoca sus reglas fuera del servicio en organizaciones violentas, dijo el director global de estrategia y desarrollo de políticas públicas, Nick Pickles, en una entrevista.

Otras plataformas describieron actividades específicas de bandera roja: Pinterest, que adoptó un enfoque de línea dura para la desinformación de salud, podría eliminar a alguien que difunde afirmaciones falsas fuera de la plataforma, dijo la jefa de políticas Sarah Bromma. Crenshaw de Patreon dijo que si bien el sitio de suscripción quería apoyar a los delincuentes rehabilitados, podría prohibir o tener restricciones en torno a los lavadores de dinero o malversadores condenados que usan su plataforma para recaudar dinero.

Los sitios también divergen sobre si prohibir a los usuarios únicamente por actividades fuera del servicio o si el contenido en el sitio debe estar vinculado al delito.

YouTube de Alphabet Inc dice que requiere que el contenido de los usuarios esté estrechamente vinculado a una ofensa del mundo real, pero puede eliminar la capacidad de los usuarios de ganar dinero con su canal en función de su comportamiento fuera del servicio. Recientemente le hizo esto al influencer de belleza James Charles por supuestamente enviar mensajes sexualmente explícitos a menores.

Los representantes de Charles no respondieron a las solicitudes de comentarios. En un comunicado publicado en Twitter este mes, dijo que había asumido la responsabilidad de las conversaciones con personas que, según él, creía que tenían más de 18 años, y dijo que su equipo legal estaba tomando medidas contra las personas que difundían información errónea.

Decidir qué acciones o acusaciones de la vida real requieren castigos en línea es un área espinosa, dicen los expertos en derecho y privacidad en línea.

Vincular la actividad de los usuarios en varios sitios también es difícil por razones que incluyen la privacidad de los datos y la capacidad de atribuir acciones a las personas con cualquier grado de certeza, dicen los expertos.

Pero eso no ha disuadido a muchas empresas de expandir la práctica. Clemens de Twitch dijo que el sitio se estaba enfocando inicialmente en la violencia y la explotación sexual, pero planeaba agregar otras actividades fuera del sitio a la lista: “Es incremental por diseño”, dijo.