El jefe de Microsoft dice que las falsificaciones profundas son la principal preocupación para la IA

WASHINGTON, 25 mayo (Mundo Informático) - El presidente de Microsoft, Brad Smith, dijo el jueves que su mayor preocupación sobre la IA son las falsificaciones profundas, la apariencia realista pero el contenido falso.

En un discurso en Washington que abordó la cuestión de cómo regular mejor la inteligencia artificial, que pasó de ser inestable a generalizada con la llegada de ChatGPT de OpenAI, Smith pidió medidas para garantizar que las personas sepan cuándo una foto o un video es real y cuándo es real. generados por inteligencia artificial, potencialmente para propósitos nefastos.

"Tendremos que abordar los problemas relacionados con las falsificaciones profundas. Tendremos que abordar especialmente lo que nos preocupa sobre la mayoría de las operaciones de influencia cibernética extranjera, el tipo de actividades que ya están realizando el gobierno ruso, los chinos, los iraníes", dijo. dicho.

“Debemos tomar medidas para protegernos de alterar contenido legítimo con la intención de engañar o defraudar a las personas mediante el uso de inteligencia artificial”.

Smith también pidió licencias de las formas más críticas de inteligencia artificial con "deberes de proteger la seguridad, la seguridad física, la ciberseguridad, la seguridad nacional".

"Necesitaremos una nueva generación de controles de exportación, al menos la evolución de los controles de exportación que tenemos, para garantizar que estos modelos no sean robados o utilizados de manera que violen los requisitos de control de exportaciones del país", afirmó.

Durante semanas, los legisladores en Washington han luchado con qué leyes aprobar para controlar la IA, incluso cuando las empresas grandes y pequeñas se apresuraron a llevar al mercado una IA cada vez más versátil.

La semana pasada, Sam Altman, CEO de OpenAI, la startup detrás de ChatGPT, dijo a un panel del Senado en su primera aparición ante el Congreso que el uso de inteligencia artificial que interfiere con la integridad electoral es un "área de preocupación significativa", y agregó que necesita regulación.

Altman, cuyo OpenAI está respaldado por Microsoft, también pidió cooperación global en inteligencia artificial e incentivos para el cumplimiento de la seguridad.

Smith también argumentó en el discurso, y en una publicación de blog publicada el jueves, que las personas deben rendir cuentas por cualquier problema que cause la IA, e instó a los legisladores a garantizar que se pongan frenos de seguridad a la IA utilizada para controlar la red eléctrica. suministro de agua y otra infraestructura crítica para que los humanos mantengan el control.

Instó al uso de un sistema de estilo "Conozca a su cliente" para que los desarrolladores de modelos poderosos de IA controlen cómo se usa su tecnología e informen al público qué contenido está creando la IA de una manera que pueda identificar vídeos falsos

Algunas propuestas que se están considerando en Capitol Hill se centrarían en la inteligencia artificial que podría poner en riesgo la vida o el sustento de las personas, como en los campos de la medicina y las finanzas. Otros están presionando por reglas que aseguren que la IA no se use para discriminar o violar los derechos civiles.

Información de Diane Bartz; Editado por David Gregorio y Nick Zieminski

Nuestros estándares: los principios de confianza de Thomson Mundo Informático.