El porno deepfake ahora es una corriente principal. Y los sitios principales están cobrando

Getty Images / Kieran Walsh

Cada mes, se suben a los sitios web de pornografía más grandes del mundo cientos de videos explícitos de deepfake con celebridades, actrices y músicos, según muestra un nuevo análisis. Los videos no consensuados acumulan millones de visitas y las empresas de pornografía siguen sin eliminarlos de sus sitios web.

Se han subido hasta 1,000 videos deepfake en sitios pornográficos cada mes, ya que se hicieron cada vez más populares durante 2020, según muestran las cifras de la compañía de detección de deepfake Sensity. Los videos continúan separándose de las comunidades dedicadas a la pornografía deepfake y hacia la corriente principal.

Los videos de deepfake alojados en tres de los sitios web pornográficos más grandes, XVideos, Xnxx y xHamster, se han visto millones de veces. Los videos están rodeados de anuncios, lo que ayuda a generar ingresos para los sitios. XVideos y Xnxx, ambos propiedad del mismo holding checo, son el número uno y los tres sitios web de pornografía más grandes del mundo y se encuentran entre los diez sitios más grandes de toda la web. Cada uno tiene, o supera, tantos visitantes como Wikipedia, Amazon y Reddit.

Un video de 30 segundos, que aparece en los tres sitios anteriores y usa el rostro de la actriz Emma Watson, ha sido visto más de 23 millones de veces, siendo visto 13 millones de veces en Xnxx. Otros videos deepfake, que tienen cientos de miles o millones de reproducciones, incluyen celebridades como Natalie Portman, Billie Eilish, Taylor Swift y la actriz india Anushka Shetty. Muchas de las celebridades han sido continuamente objeto de deepfakes desde que surgieron por primera vez en 2018.

“La actitud de estos sitios web es que realmente no consideran que esto sea un problema”, dice Giorgio Patrini, director ejecutivo y científico jefe de Sensity, que hasta hace poco se llamaba DeepTrace. En general, se considera que los videos de pornografía deepfake apuntan, dañan y humillan a las mujeres ubicadas en su núcleo. Patrini agrega que Sensity ha visto cada vez más que se hacen deepfakes para otras personas en el ámbito público, como Instagram, Twitch y personas influyentes de YouTube, y le preocupa que el avance de la tecnología deepfake inevitablemente vea a miembros del público objetivo.

“Hasta que no haya una razón sólida para que ellos [los sitios web pornográficos] intenten eliminarlos y filtrarlos, creo firmemente que no va a pasar nada”, dice Patrini. “La gente seguirá siendo libre de subir este tipo de material sin consecuencias para estos sitios web que son vistos por cientos de millones de personas”.

Muchos de los videos están ocultos a la vista; después de todo, se cargan para verlos. Algunos videos incluyen "fake" o "deepfake" en sus títulos y están etiquetados como deepfake. Por ejemplo, las páginas de etiquetas en XVideos y Xnxx enumeran cientos de videos.

Sin embargo, se desconoce la escala total del problema en los sitios web de pornografía. Probablemente nunca habrá una imagen real de cuántos de estos videos se crean sin el permiso de las personas.

A pesar de los repetidos intentos de contactar a representantes de XVideos y Xnxx, los propietarios no respondieron solicitudes de comentarios sobre sus actitudes y políticas hacia los deepfakes.

Alex Hawkins, vicepresidente de xHamster, dice que la empresa no tiene una política específica para deepfakes, pero "trátelo como cualquier otro contenido no consensuado". Hawkins dice que el proceso de moderación de la empresa implica varios pasos diferentes y eliminará los videos si las imágenes de las personas se usan sin permiso.

“Entendemos absolutamente la preocupación por los deepfakes, por lo que facilitamos su eliminación”, dice Hawkins. "El contenido subido sin obtener el permiso necesario infringe nuestros Términos de uso y se eliminará una vez identificado". Hawkins agrega que las docenas de videos que aparecen como deepfakes en xHamster, que fueron resaltados por Mundo Informático, se pasaron a su equipo de moderación para su revisión.

Las cifras de carga de deepfake vistas Mundo Informático no incluyeron Pornhub, que es el segundo sitio web porno más grande y, a pesar de prohibir deepfakes en 2018, todavía tiene problemas con los videos.

"Tiene que haber algún tipo de pensamiento sobre lo que hacemos al respecto cuando las mujeres se sienten avergonzadas, humilladas y degradadas de esta manera en Internet, y realmente es como una pregunta sobre privacidad y seguridad", dice Nina Schick, una locutora política. y el autor de Deepfakes y el Infocalipsis.

Desde que surgieron los primeros deepfakes de Reddit a principios de 2018, la tecnología de inteligencia artificial subyacente necesaria para hacerlos ha avanzado. Cada vez es más barato y fácil para las personas hacer videos deepfake y, en un ejemplo reciente, un investigador de seguridad creó video y audio de Tom Hanks usando software de código abierto y gastando menos de $ 100.

Los avances tecnológicos han provocado un aumento de los temores sobre el uso de deepfakes para manipular conversaciones políticas. Si bien ha habido algunos ejemplos tempranos de esto, la amenaza no se ha materializado en gran medida. Sin embargo, el porno deepfake, donde se inventó la tecnología por primera vez, ha florecido. La actriz de Hollywood Kristen Bell dijo que estaba "sorprendida" cuando descubrió que los deepfakes se hacían con su imagen. "‘ Incluso si está etiquetado como, 'Oh, esta no es realmente ella', es difícil pensar en eso, estoy siendo explotada ", dijo. Vox en junio.

Los deepfakes ya están rompiendo la democracia. Pregúntale a cualquier mujer