Microsoft lanza una herramienta para encontrar videos manipulados

los desinformación se ha convertido en un verdadero flagelo en los últimos años, en particular gracias a redes sociales, pero también elinteligencia artificial (I A). Como parte de su programa de defensa de la democracia (Programa de defensa de la democracia), Microsoft está comprometido con la lucha contra la desinformación. La firma ha desarrollado así una nueva herramienta capaz de detectar deepfakes, esos videos e imágenes falsos creados por IA.

Autenticador de video de Microsoft analiza fotos y videos y muestra si son genuinos o manipulados, así como una puntuación de confianza. En un video, la evaluación se realiza cuadro a cuadro y, por lo tanto, permite identificar con precisión los pasajes modificados. Para crear esta herramienta, Microsoft entrenó su IA en el base de datos FaceForensics ++ que contiene más de un millón y medio de imágenes deepfake creado con diferentes métodos, tomado de 1,000 videos. Posteriormente, la herramienta se validó en el banco de imágenes. Conjunto de datos de desafío de detección de DeepFake creado por Facebook.

Una nueva herramienta para certificar contenido

Microsoft señala, sin embargo, que su herramienta no es infalible y una validación no garantiza que el video no sea manipulado. Además, las inteligencias artificiales están mejorando constantemente, haciendo deepfakes cada vez más difícil de detectar. Por tanto, la firma ofrece una segunda herramienta en dos partes. La primera parte, integrada en Microsoft Azure, le permite agregar un Certificación al contenido en forma de metadatos. El segundo componente es un visor o una extensión de Navegador quien revisa el certificado y permite al usuario saber si el contenido es auténtico o si ha sido modificado.

Microsoft También detalló otras iniciativas para educar al público sobre el tema de la desinformación. La firma cita en particular Detecta el cuestionario Deepfake, un cuestionario para crear conciencia sobre los medios de comunicación objeto de trata. Microsoft también anunció su participación en una campaña de noticias para alentar al público estadounidense a hacer una pausa y pensar en la fuente de la noticia antes de compartirla en las redes sociales.