¿Son exagerados los deepfakes?

He trabajado en el área de seguridad durante décadas. Cuando yo trabajaba en la centralita del motel de mi amigo cuando era niño, hacíamos lo mismo que la gente hace con los deepfakes con tecnología mucho más antigua. En aquel entonces, lo único que teníamos eran teléfonos fijos, pero a menudo nos metíamos con la gente a altas horas de la noche haciéndonos pasar por personas que no éramos.

Más tarde, en colaboración con cazatalentos, una forma habitual de encontrar personas en las empresas era llamar y utilizar el nombre de un ejecutivo que estaba fuera de la ciudad para convencer a alguien de manera ilícita de que nuestra solicitud externa no autorizada era legítima. Los cazatalentos verdaderamente buenos eran extremadamente buenos en esto. Los deepfakes mejoran la capacidad de engañar a las personas, pero si estás prestando atención, no hay razón para dejarse engañar por ellos.

Esta semana hablaremos de deepfakes y cerraremos con un producto de redes sociales de servicios de noticias llamado Otherweb que hace un mejor trabajo que la mayoría al eliminar las noticias falsas que han sido una fuente masiva de errores, fraude y vergüenza.

El fraude de los 25 millones de dólares de Deepfake

Lo que me hizo pensar en esto fue un informe trimestral de HP Wolf Security sobre las tendencias de amenazas de seguridad del trimestre anterior y su respuesta a mi pregunta sobre nuevas amenazas creativas.

HP compartió un caso de fraude exitoso en el que un empleado recibió llamadas de dos ejecutivos que conocía y que fueron convencidos de transferir 25 millones de dólares de una institución financiera en Hong Kong a una organización ilícita. Pasaron dos semanas antes de que se descubriera el fraude.

Soy un ex auditor interno de IBM y todo tipo de señales de alerta aparecieron inmediatamente en mi cabeza cuando leí la historia. En primer lugar, las instituciones financieras suelen tener controles masivos sobre sus sistemas monetarios porque nadie quiere invertir dinero en una institución financiera que no sea segura.

Existen muchas normas y prácticas industriales que se han desarrollado a lo largo de los siglos para proteger a estas instituciones. Una de ellas se denomina “separación de funciones”, según la cual ninguna persona puede autorizar un pago significativo sin la autorización física de un ejecutivo. Cuando se trata de millones de dólares, el gasto puede requerir la autorización del director financiero, el director ejecutivo y un miembro independiente de la junta directiva.

De entrada, se puede ver que ese proceso no estaba en marcha en esta empresa y que la entidad que cometió el fraude no solo lo sabía, sino que también sabía quién tenía la capacidad de autorizar un gasto de ese tipo. Esta situación sugiere claramente que se trató de un trabajo interno que requería un conocimiento profundo de los privilegios de los empleados afectados.

No había lugar para el fracaso porque si los delincuentes hubieran intentado y fallado, normalmente se habría emitido una alerta dentro de la empresa, lo que habría hecho que otros empleados estuvieran al tanto del fraude y pudieran evitarlo mejor.

No tengo dudas de que el empleado que fue engañado se convertirá en sospechoso (ya que ese sería el camino más fácil) y que otros empleados que informaron a la entidad atacante sobre la deficiencia de la política e identificaron al empleado engañado o comprometido están involucrados.

Restablecer y aplicar la regla de “separación de funciones” para garantizar que ningún empleado pueda autorizar un gasto como este reduciría significativamente la posibilidad de que este tipo de fraude tenga éxito y aumentaría el grado de dificultad a un punto en que un enfoque diferente, como simplemente sobornar al empleado o empleados, podría ser más exitoso.

Fraude por secuestro de un ser querido

Uno de los fraudes más esperados es el uso de deepfakes para convencerte de que un ser querido está en peligro y que debes enviarle dinero de inmediato para sacarlo de peligro. Esta táctica también se ha utilizado durante años a través de teléfonos con gran éxito. El video puede hacer que sea un poco más creíble si se hace bien, pero hacer bien estas cosas sigue siendo una habilidad poco común, al menos por ahora.

Funciona al hacer que entres en pánico para que no pienses en llamar a tu ser querido o a la policía mientras corres a una tienda a comprar una tarjeta de regalo para enviarle a la persona que te está estafando. Ten en cuenta que en un secuestro real, la medida más segura que puede tomar el perpetrador para evitar ser atrapado es matar a la víctima secuestrada, independientemente de si pagaste el rescate o no, porque si no recuperas a tu ser querido, ¿cuál es exactamente tu recurso?

Por lo tanto, siempre debe llamar primero a las fuerzas del orden cuando se enfrente a un secuestro. Tienen personal capacitado para ocuparse de este tipo de casos y, si se involucran, es mucho más probable que los perpetradores sean identificados y encarcelados. Dependiendo del tamaño de su departamento de policía local, es posible que desee considerar llamar al FBI, ya que puede tener recursos más sustanciales que su departamento de policía local para lidiar con este tipo de fraude.

Desarrolle una palabra de seguridad que no comparta fuera de la familia y que sirva para establecer que el ser querido secuestrado es quien dice ser, de modo que no genere problemas con la policía innecesariamente. También puede llamar a su teléfono celular para ver si responde. Si es falso, esta es una de las formas más rápidas de desmantelar el fraude.

Dando voz a las víctimas

Un uso interesante de la tecnología deepfake es la voz de un niño muerto que fue asesinado como resultado de la violencia con armas de fuego. La tecnología se llama Shotline. Utiliza las voces de manera muy poderosa, debo agregar, para permitir que quienes murieron por la violencia con armas de fuego se expresen en contra de ella. Dar voz a los que no la tienen es un mensaje poderoso para los políticos y sus partidarios que no han actuado enérgicamente para detener la violencia con armas de fuego.

Por supuesto, esto debería hacerse con el permiso de los padres del niño fallecido. Espero que escuchar la voz de su hijo muerto alzar la voz contra la violencia que lo mató pueda ser algo catártico para los padres. También envía un mensaje contundente a quienes ponen a estos niños en peligro y debería aumentar la empatía hacia las víctimas y, en particular, hacia los padres de las víctimas por parte de los políticos que también tienen hijos.

Es una de las formas más poderosas y potencialmente eficaces de impulsar el cambio necesario. A diferencia de oponerse a quienes promueven la reforma de las armas, oponerse a las voces de los niños muertos es problemático y posiblemente ponga fin a una carrera profesional si los electores se identifican con los niños o sus padres.

Todo esto quiere decir que los deepfakes también pueden usarse para hacer el bien.

Terminando

La tecnología deepfake se está utilizando para hacer daño, pero los métodos existentes diseñados para reducir o prevenir el fraude deberían ser suficientes para protegerse contra esta tecnología. En política, necesitamos nuevas leyes y formas de hacerlas cumplir, y algunas de estas, aunque dudo que sean adecuadas, están en proceso. Por último, las deepfakes se pueden utilizar para hacer el bien, dando voz a los que no la tienen. Espero que veamos más casos de este tipo.

Cuando se utilizan con fines malvados, las falsificaciones profundas son solo un paso más allá de algunas de las estafas telefónicas con las que hemos estado lidiando durante décadas. Siempre que abordes las llamadas relacionadas con ellas con la cabeza en alto y los ojos abiertos, no creo que el riesgo sea mucho peor que antes. Después de todo, ¿con qué frecuencia los anuncios políticos dicen la verdad, incluso sin falsificaciones profundas?

Con los controles validados y garantizados adecuados y simplemente estando alerta ante la posibilidad de un intento de fraude bien planificado, deberíamos poder capear esta tormenta. Sin embargo, si nos vemos comprometidos o no pensamos a la defensiva, seremos cada vez más vulnerables a un fraude que podría cambiar nuestras vidas, y no para mejor.

Otra web

Otherweb es una plataforma de redes sociales que ofrece servicios de noticias y filtra de forma agresiva las noticias basura y falsas de su feed. Puedes elegir áreas de interés y, luego, recibirás actualizaciones solo de los hechos, sin demasiadas opiniones, en la sección de noticias de la aplicación. Luego, verás y podrás participar en discusiones relacionadas en la sección de redes sociales de la aplicación.

(Crédito de la imagen: Otherweb)

Puedes ejecutar el servicio en Windows, pero suele funcionar mejor en un teléfono inteligente y te ofrece una forma más específica de mantenerte al día con los acontecimientos actuales y con menos riesgo de reenviar una historia falsa a amigos, familiares o, peor aún, compañeros de trabajo o directivos que pueden cambiar su opinión sobre ti para peor. Esto me pasó al principio de mi carrera y me llevó mucho tiempo superar el daño a mi reputación que supuso compartir una noticia falsa en la que me creía en ese momento.

La nueva función de Otherweb se llama “Discusiones”. Crea un entorno seguro en las redes sociales donde se eliminan de forma agresiva a los trolls, instigadores y otras fuentes tóxicas para crear un lugar seguro donde hablar de los acontecimientos actuales sin temor a ser atacado, criticado o castigado de alguna otra forma por sus opiniones e inquietudes legítimas.

Sé que muchos de nosotros estamos cansados ​​de ver a malos actores, estafadores y teóricos de la conspiración llenando constantemente nuestros feeds con basura que ellos mismos inventaron o tomaron sin consultar a otros. Las buenas decisiones surgen de la información sólida, y las noticias falsas están haciendo que muchos de nosotros tomemos malas decisiones. Deshacernos de esa influencia sería bueno para todos nosotros. Como resultado, Otherweb es mi Producto de la Semana. Es gratis y vale la pena probarlo.

Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente las opiniones de ECT News Network.