IA reclutada en la guerra contra los crímenes en línea contra niños
hace 1 año
Los investigadores están aplicando tecnologías de inteligencia artificial que pueden identificar y detener los delitos contra niños en Internet (ICAC), según un fabricante de herramientas de inteligencia artificial para las fuerzas del orden, agencias gubernamentales y empresas.
Voyager Labs, en un blog publicado el martes, explicó que muchos grupos de trabajo del ICAC están utilizando herramientas como “búsquedas de consultas por temas” para encontrar material en línea relacionado con crímenes contra niños.
Esos sistemas pueden encontrar cuentas que comercien con material de abuso sexual infantil, identificar y localizar a los delincuentes que utilizan esas cuentas, identificar a víctimas potenciales y recopilar datos cruciales para ayudar a las autoridades a abrir un caso contra los delincuentes, señaló Voyager.
Añadió que este proceso suele ser notablemente rápido y, a veces, arroja resultados utilizables en segundos.
Otra herramienta utilizada por los investigadores citados por la Voyager es el "léxico de consulta de temas". Es como un diccionario de traducción o un libro de códigos. Los investigadores criminales pueden aportar su conocimiento de las comunicaciones criminales (jerga, terminología y emojis) al léxico, que el software de inteligencia artificial puede utilizar para encontrar referencias a actividades criminales en línea.
El director de investigaciones nacionales de la Voyager, Jason Webb, que contribuyó al blog, explicó que el léxico actúa como una base de datos compartida, lo que permite a varios tipos de especialistas aplicar el conocimiento de los demás a sus investigaciones.
Sabemos dónde vives
La inteligencia artificial también es útil para realizar análisis de redes. Si hay páginas donde se ha intercambiado material de abuso sexual infantil, señaló Voyager, la IA puede ver quién interactúa con esas páginas para realizar análisis de red, identificando si hay varios delincuentes involucrados en las redes ICAC.
Es común que las pandillas dirijan las actividades del ICAC y la trata de personas, por lo que estas investigaciones tienen el potencial de descubrir empresas criminales de organizaciones complejas que trabajan en una variedad de actividades ilegales, explicó.
Voyager añadió que algunos sistemas pueden revelar la ubicación geográfica de la actividad delictiva. Compartir datos geográficos puede ser uno de los factores más importantes para reducir el ICAC, sostuvo Voyager, porque permite a las agencias que tienen esta nueva tecnología compartir su investigación con departamentos más pequeños que pueden no tener los mismos recursos.
Además de identificar actividades delictivas, Voyager señaló que el análisis de red se puede utilizar para indicar víctimas potenciales. Una vez que se alerta a las autoridades y a las familias de que los delincuentes han intentado contactar a un niño, explicó Voyager, se pueden tomar medidas inmediatas para proteger al niño de posibles daños.
Voyager afirma que, en muchos casos, todo este tipo de investigación de IA se puede lograr únicamente a través de inteligencia de código abierto, que está disponible para el público sin orden judicial ni permisos especiales. Sin embargo, en el pasado, la compañía se ha metido en problemas por sus prácticas de recopilación de datos.
En enero de 2023, Meta presentó una demanda contra Voyager Labs en un tribunal federal de EE. UU. en California, alegando que la empresa extrajo datos de plataformas y perfiles de Facebook e Instagram de forma indebida.
Meta afirma que Voyager creó más de 38.000 cuentas falsas y las utilizó para extraer la "información de perfil visible" de 600.000 usuarios de Facebook. Voyager supuestamente comercializó sus herramientas de raspado entre empresas interesadas en realizar vigilancia en sitios de redes sociales sin ser detectadas y luego vendió la información al mejor postor.
Voyager sostiene que la demanda no tiene fundamento, revela un malentendido fundamental sobre cómo funcionan los productos de software en cuestión y, lo más importante, es perjudicial para la seguridad pública estadounidense y mundial.
Filtrar fotos de desnudos
La inteligencia artificial también puede identificar material de abuso sexual infantil a través de servicios como Photo DNA de Microsoft y Hash Matching API de Google. Esos servicios utilizan una biblioteca de contenido conocido de abuso sexual infantil para identificar ese contenido cuando circula o se almacena en línea.
"Sin embargo, eso sólo resuelve el problema del contenido conocido o las coincidencias difusas, y aunque algunas empresas están construyendo modelos para detectar nuevo material de abuso sexual infantil, existen regulaciones importantes sobre quién puede acceder a estos conjuntos de datos", dijo Joshua Buxbaum, co- fundador y director de crecimiento de WebPurify, un servicio de protección infantil en línea y filtrado web basado en la nube, en Irvine, California.
"Al igual que con todos los modelos de IA, nada es perfecto de ninguna manera, y se necesitan humanos para verificar el contenido, lo cual no es ideal desde una perspectiva de salud mental", dijo a TechNewsWorld.
También existen aplicaciones independientes de control parental, como Canopy, que pueden filtrar imágenes entrantes y salientes que contengan desnudos. "Avisa a los padres si parece que sus hijos están sexteando", dijo el CMO de Canopy, Yaron Litwin.
"Esto puede evitar que esas imágenes caigan en las manos equivocadas y brinda a los padres la oportunidad de educar a sus hijos sobre los peligros de lo que están haciendo antes de que sea demasiado tarde", dijo a TechNewsWorld.
"Las plataformas sociales permiten a los depredadores enviar fotos y al mismo tiempo solicitarlas al menor", dijo a TechNewsWorld Chris Hauk, defensor de la privacidad del consumidor en Pixel Privacy, una editorial de guías de privacidad y seguridad del consumidor. "Esto permite a los depredadores extorsionar con dinero u otro tipo de fotografías mientras amenazan con decirle a los padres si el niño no cumple".
Litwin agregó que la “sextorsión” (usar imágenes de niños desnudos para extorsionarlos más imágenes o dinero) ha aumentado un 322% año tras año en febrero.
"En algunos casos de sextorsión las víctimas se han suicidado", afirmó.
La educación digital es vital para la protección infantil
El material de abuso sexual infantil también sigue siendo un problema en las redes sociales.
"Nuestro análisis muestra que las eliminaciones de cuentas de redes sociales relacionadas con el abuso y la seguridad infantil están aumentando constantemente en la mayoría de las plataformas", dijo a TechNewsWorld Paul Bischoff, defensor de la privacidad en Comparitech, un sitio web de reseñas, consejos e información para productos de seguridad del consumidor.
Relacionado: Tech Coalition lanza una iniciativa para combatir a los depredadores infantiles nómadas | 8 de noviembre de 2023
Citó un informe publicado por Comparitech que encontró que durante los primeros nueve meses de 2022, las eliminaciones de contenido por explotación infantil casi igualaron a todas las eliminaciones de 2021. Se pueden encontrar historias similares para Instagram, TikTok, Snapchat y Discord.
"Este es un problema realmente grave que sólo empeora con el tiempo", dijo Litwin. "Los padres de hoy no crecieron en el mismo mundo digital que sus hijos y no siempre son conscientes de la variedad de amenazas que sus hijos enfrentan a diario".
Isabelle Vladoiu, fundadora del Instituto de Diplomacia y Derechos Humanos de Estados Unidos, un grupo de expertos sin fines de lucro con sede en Washington, DC, afirmó que lo más importante que se puede hacer para mantener a los niños seguros en línea es educarlos.
"Al ofrecer programas integrales de alfabetización digital, como capacitación en ciudadanía digital, crear conciencia sobre los riesgos en línea y enseñar a los niños a reconocer las señales de alerta, los empoderamos para tomar decisiones informadas y protegerse de la explotación", dijo a TechNewsWorld.
"Los ejemplos de la vida real han demostrado que cuando se educa a los niños sobre los riesgos de la trata y la seguridad en línea, se vuelven más empoderados para oponerse a la tortura y la explotación", continuó, "fomentando un entorno en línea más seguro para todos".
Si quieres conocer otros artículos parecidos a IA reclutada en la guerra contra los crímenes en línea contra niños puedes visitar la categoría Tecnología.
Otras noticias que te pueden interesar