Como parte de un acuerdo con la Comisión Federal de Comercio de EE. UU. (FTC), Rite Aid acordó prohibir el uso de tecnología de reconocimiento facial con fines de vigilancia durante cinco años. La medida se produce tras las acusaciones de la FTC de que la tecnología se ha utilizado indebidamente, en detrimento de los consumidores. De 2012 a 2020, Rite Aid implementó este sistema basado en inteligencia artificial para detectar ladrones. Sin embargo, el regulador dijo que este proceso identificó falsamente a clientes específicos que habían robado previamente en tiendas, "a menudo y en gran medida, personas de color".
Falta de información a los clientes y errores repetidos
Para reducir los hurtos y otros problemas relacionados con los clientes, Rite Aid ha confiado en el reconocimiento facial a través de cámaras de vigilancia en cientos de farmacias. El problema era que el personal de Rite Aid frecuentemente acusaba falsamente a los clientes de robo. "El uso imprudente de los sistemas de vigilancia facial por parte de la cadena humilló y causó otros daños a sus clientes, y estas violaciones ponen en riesgo información sensible del consumidor", dijo Samuel Levine, director de consumidores de la FTC, en un comunicado de prensa. "La orden de hoy deja claro que la Comisión trabajará para proteger al público de prácticas desleales en vigilancia biométrica y seguridad de datos", añadió.
Según la FTC, el sistema de Rite Aid utilizó el reconocimiento facial para escanear a los clientes cuando ingresaban a la tienda, comparando sus rostros con una gran base de datos de personas sospechosas o confirmadas como ladrones. Si el sistema encontraba una coincidencia, alertaba al personal para que vigilara de cerca al cliente. La base de datos de fotografías estaba llena de fotografías de baja calidad provenientes de vigilancia granulada e imágenes de teléfonos celulares, lo que generó coincidencias poco confiables. Estos problemas provocaron que el personal siguiera a los clientes o llamara a la policía sin presenciar un delito. Los funcionarios federales también señalaron que Rite Aid no informó a sus clientes sobre el uso de esta tecnología y que ordenó a sus empleados que no revelaran su uso a los clientes ni a los medios. . La FTC afirmó que Rite Aid trabajó con dos empresas anónimas para crear su base de datos de "personas de interés" con decenas de miles de imágenes.
Piloto suspendido por 3 años según Rite Aid
Rite Aid dijo que su acuerdo con la FTC debe ser aprobado por el tribunal que supervisa su procedimiento de quiebra en curso. De hecho, la empresa se declaró en quiebra en octubre. "Las acusaciones se relacionan con un programa piloto de tecnología de reconocimiento facial implementado por la compañía en algunas de sus tiendas", dijo Rite Aid en un comunicado. "Rite Aid dejó de utilizar esta tecnología en estas tiendas hace más de tres años, antes de que comenzara la investigación de la FTC sobre el uso de esta tecnología por parte de la empresa", añadió. .
"La prohibición de la FTC ilustra la naturaleza descentralizada de la regulación de la IA en los Estados Unidos", dijo Kjell Carlsson, jefe de estrategia y evangelización de ciencia de datos en Domino Data Lab. . “A diferencia de la UE, donde la Ley IA promete regulaciones consistentes con multas draconianas, en Estados Unidos las empresas están sujetas a regulaciones dispares y en evolución, decididas por agencias federales, legisladores estatales y municipios, con sanciones comparativamente menores, centradas principalmente en el mal uso. de datos en lugar de la propia IA”, añadió.
Otras noticias que te pueden interesar