La FCC teme una explosión de spam impulsado por IA

Si bien empresas como Microsoft y Nvidia confían en el poder de la última generación de algoritmos de aprendizaje automático, algunos reguladores temen lo que esto podría significar para nuestras ya ocupadas redes de comunicaciones. Tal es el caso del presidente de la Comisión Federal de Comunicaciones de EE. UU., quien acaba de proponer una investigación sobre lo que la IA podría significar para aún más llamadas y mensajes de texto no solicitados. La FCC votará si se deben tomar medidas escalonadas en noviembre. La presidenta Rosencworcel, que forma parte de la Comisión desde 2012 y la dirige desde su confirmación a finales de 2021, está particularmente preocupada por cómo las herramientas de inteligencia artificial, que han proliferado en los últimos meses, podrían afectar a las personas mayores.

El comunicado de prensa inicial de la FCC enumera cuatro objetivos principales: determinar si las tecnologías de IA están bajo la jurisdicción de la Comisión a través de la Ley de Protección al Consumidor Telefónico de 1991, si las futuras tecnologías de IA podrían hacer lo mismo y cuándo, cómo la IA afecta los marcos regulatorios existentes y si la FCC debería Considere formas de verificar la autenticidad de la voz y el texto de IA generados automáticamente a partir de "fuentes confiables". Este último punto parece ser el que probablemente planteará más problemas. Los algoritmos de texto generado automáticamente y de voz natural ya son herramientas bastante fáciles de usar, incluso si no son tan rápidos como se necesita para intercambios en tiempo real en una llamada telefónica. Si a esto le sumamos los centros de datos que podrían describirse como "grandes", ya sean creados íntegramente con el propósito de procesar llamadas y mensajes de texto en masa o simplemente alquilados a empresas como Amazon y Microsoft, tenemos una receta para el desastre.

Uso de IA para luchar contra el spam y las estafas

Reemplazar los centros de llamadas atendidos por humanos en todo el mundo, en países como India y Camboya, que tienen muchos de ellos, con sistemas de inteligencia artificial totalmente automatizados podría aumentar exponencialmente el volumen y la efectividad de las estafas, que ya se envían cientos de miles de millones de veces cada año. Aunque existen filtros y bloqueos, se estima que cada año se pierden miles de millones de dólares debido a estafas solo en los Estados Unidos, muchas de las cuales apuntan específicamente a adultos mayores.

El informe de la FCC menciona que la tecnología de inteligencia artificial también podría usarse para combatir spammers y estafas, probablemente con algún tipo de sistema de análisis en tiempo real que alerte a los usuarios de que están hablando con una computadora. Pero los detalles de esta cuestión, así como la posible evolución de la amenaza que plantean las herramientas de IA, tendrán que esperar hasta la sesión de la Comisión del 15 de noviembre.