Estados Unidos monitorea la IA en las empresas para asegurarse de que no viole los derechos civiles

25 abr (Mundo Informático) - Funcionarios estadounidenses advirtieron el martes a firmas financieras y otras que el uso de inteligencia artificial (IA) puede aumentar el riesgo de sesgo y abusos de los derechos civiles y señalaron que estaban monitoreando los mercados en busca de tal discriminación.

La mayor dependencia de los sistemas automatizados en áreas como préstamos, empleo y vivienda amenaza con exacerbar la discriminación por motivos de raza, discapacidad y otros factores, dijeron los jefes de la Oficina de Protección Financiera del Consumidor, la Unidad de Derechos Civiles del Departamento de Justicia, la Oficina Federal de Comercio Comisión y otros.

La creciente popularidad de las herramientas de IA, incluido Open AI ChatGPT (MSFT.O) respaldado por Microsoft Corp, ha llevado a los reguladores de EE. UU. y Europa a intensificar el escrutinio de su uso y ha llevado a pedir nuevas leyes para frenar la tecnología.

"Las afirmaciones de innovación no deben ser una tapadera para infringir la ley", dijo a los periodistas Lina Khan, presidenta de la Comisión Federal de Comercio.

La Oficina de Protección Financiera del Consumidor se está acercando a los denunciantes de la industria tecnológica para determinar dónde las nuevas tecnologías entran en conflicto con las leyes de derechos civiles, dijo el director de la Oficina de Protección Financiera del Consumidor, Rohit Chopra.

En finanzas, las empresas están obligadas por ley a explicar las decisiones crediticias adversas. Si las empresas ni siquiera entienden los motivos de las decisiones que toma su IA, no pueden usarla legalmente, dijo Chopra.

“De lo que estamos hablando aquí es a menudo del uso de grandes cantidades de datos y el desarrollo de correlaciones y otros análisis para generar contenido y tomar decisiones”, dijo Chopra. "Lo que estamos diciendo aquí es que hay una responsabilidad que tienes por esas decisiones".

Información de Chris Prentice

Nuestros estándares: los principios de confianza de Thomson Mundo Informático.