El jefe de OpenAI está preocupado por el uso de la IA para comprometer las elecciones

WASHINGTON, 16 mayo (Mundo Informático) - El director ejecutivo de OpenAI, la startup detrás de ChatGPT, dijo el martes a un comité del Senado que usar inteligencia artificial para interferir con la integridad electoral es un "área importante de preocupación", y agregó que necesita regulación.

“Estoy nervioso por esto”, dijo el director ejecutivo Sam Altman sobre las elecciones y la IA, y agregó las reglas y pautas necesarias.

Durante meses, las empresas, grandes y pequeñas, se han apresurado a llevar al mercado una IA cada vez más versátil, aportando datos infinitos y miles de millones de dólares al desafío. Algunos críticos temen que la tecnología exacerbe el daño a la sociedad, incluidos los prejuicios y la desinformación, mientras que otros advierten que la IA podría acabar con la humanidad misma.

"No hay forma de poner este genio en la botella. A nivel mundial, esto está explotando", dijo el senador Cory Booker, uno de los muchos legisladores con preguntas sobre la mejor manera de regular la IA.

La senadora Mazie Hirono ha señalado el peligro de la desinformación a medida que se acercan las elecciones de 2024. “En el contexto de las elecciones, por ejemplo, vi una foto del expresidente Trump arrestado por la policía de Nueva York y se volvió viral”, dijo, insistiendo a Altman. que consideraba dañina la imagen falsa.

Altman respondió que los creadores deberían aclarar cuándo se genera una imagen en lugar de un hecho.

Hablando ante el Congreso por primera vez, Altman sugirió que, en general, Estados Unidos debería considerar los requisitos de licencia y prueba para desarrollar modelos de IA.

Cuando se le pidió una opinión sobre qué IA debería tener licencia, Altman dijo que un modelo que pudiera persuadir o manipular las creencias de una persona sería un ejemplo de un "gran umbral".

También dijo que las empresas deberían tener derecho a decir que no quieren que sus datos se utilicen para el entrenamiento de IA, que es una idea que se está discutiendo en Capitol Hill. Altman dijo, sin embargo, que el material en la web pública sería un juego justo.

Altman también dijo que "nunca diría" a la idea de publicidad, pero prefirió un modelo basado en suscripción.

La Casa Blanca ha convocado a los principales directores ejecutivos de tecnología, incluido Altman, para abordar la IA. De manera similar, los legisladores estadounidenses están tratando de tomar medidas para promover los beneficios de la tecnología y la seguridad nacional al limitar su uso indebido. El consenso está lejos de ser seguro.

Un miembro del personal de OpenAI propuso recientemente crear una agencia estadounidense de licencias para la IA, que podría llamarse Oficina para la Seguridad de la Infraestructura y la Seguridad de la IA u OASIS, informó Mundo Informático.

OpenAI es compatible con Microsoft Corp (MSFT.O). Altman también hace un llamado a la cooperación global en inteligencia artificial e incentivos para el cumplimiento de la seguridad.

Christina Montgomery, directora de privacidad y confianza de International Business Machines Corp (IBM.N), ha instado al Congreso a centrar la regulación en las áreas con el potencial de causar el mayor daño a la sociedad.

Información de Diane Bartz en Washington y Jeffrey Dastin en Palo Alto, California; Editado por Matthew Lewis y Edwina Gibbs

Nuestros estándares: los principios de confianza de Thomson Mundo Informático.