La importancia del plan de cinco puntos de Microsoft para la gobernanza pública de la IA

Muchos líderes tecnológicos coinciden en que, si bien la IA podría ser enormemente beneficiosa para los humanos, también podría utilizarse indebidamente o, por negligencia, dañar terminalmente a la humanidad. Pero pedir a los gobiernos que aborden este problema sin orientación sería una tontería, dado que los políticos a menudo ni siquiera entienden la tecnología que han utilizado durante años, y mucho menos algo que acaba de llegar al mercado.

Como resultado, cuando los gobiernos actúan para mitigar un problema, podrían hacer más daño que bien. Por ejemplo, era correcto penalizar a la antigua Shell Oil Company por abusos, pero al dividir la compañía se desplazó el control del petróleo de Estados Unidos a partes del mundo que no son tan amigables con Estados Unidos. Otro ejemplo fue corregir el dominio de RCA. de electrónica de consumo, que desplazó el mercado de Estados Unidos a Japón.

Estados Unidos se ha aferrado al liderazgo tecnológico por los pelos, pero no tengo ninguna duda de que si el gobierno actúa sin orientación para regular la IA, simplemente trasladaría la oportunidad a China. Por eso es tan importante el reciente informe de Microsoft titulado “Gobernando la IA: un plan para el futuro”.

El informe de Microsoft define el problema, describe un camino razonable que no reducirá la competitividad de Estados Unidos y aborda las preocupaciones en torno a la IA.

Hablemos del plan de Microsoft para la gobernanza de la IA y terminaremos con mi Producto de la semana, una nueva línea de rastreadores que pueden ayudar a realizar un seguimiento de cosas que a menudo tenemos problemas para localizar.

Ejemplo de EEOC

Es una tontería pedir una regulación sin contexto. Cuando los gobiernos reaccionan tácticamente ante algo de lo que saben poco, pueden hacer más daño que bien. Comencé con un par de ejemplos antimonopolio, pero quizás el ejemplo más feo fue la Comisión de Igualdad de Oportunidades en el Empleo (EEOC).

El Congreso creó la EEOC en 1964 para abordar rápidamente el problema muy real de la discriminación racial en el empleo. Había dos causas fundamentales de discriminación en el lugar de trabajo. La más obvia fue la discriminación racial en el lugar de trabajo, que la EEOC pudo abordar, y de hecho lo hizo. Pero existía un problema aún mayor en lo que respecta a la discriminación en la educación, que la EEOC no abordó.

Cuando las empresas contrataban por calificación y utilizaban cualquiera de las metodologías que la industria había desarrollado en ese momento para recompensar a los empleados con puestos científicamente, aumentos y ascensos basados ​​en la educación y los logros, se le pedía que suspendiera esos programas para mejorar la diversidad de la empresa que con demasiada frecuencia poner a las minorías inexpertas en puestos de trabajo.

Al colocar a minorías inexpertas en empleos para los que no estaban bien capacitadas, el sistema las preparó para fracasar, lo que sólo reforzó la creencia de que las minorías eran de algún modo inadecuadas cuando, en realidad, para empezar, no se les daban las mismas oportunidades de educación y tutoría. Esta situación no sólo se aplicaba a las personas de color sino también a las mujeres, independientemente de su color.

Ahora podemos mirar hacia atrás y ver que la EEOC realmente no solucionó nada, pero sí convirtió a RR.HH. de una organización centrada en el cuidado y la alimentación de los empleados a una organización centrada en el cumplimiento, lo que con demasiada frecuencia significó encubrir los problemas de los empleados en lugar de que abordar los problemas.

Brad Smith da un paso al frente

El presidente de Microsoft, Brad Smith, me ha impresionado como uno de los pocos líderes tecnológicos que piensa en términos amplios. En lugar de centrarse casi exclusivamente en respuestas tácticas a problemas estratégicos, piensa estratégicamente.

El plan de Microsoft es un ejemplo de ello porque, si bien la mayoría acude al gobierno diciéndole "debes hacer algo", lo que podría conducir a otros problemas a largo plazo, Smith ha expuesto cómo cree que debería ser una solución, y da cuerpo a esta situación. expresarlo elegantemente en un plan de cinco puntos.

Comienza con una declaración provocativa: "No preguntes qué pueden hacer las computadoras, pregunta qué deberían hacer", lo que me recuerda un poco la famosa frase de John F. Kennedy: "No preguntes qué puede hacer tu país por ti, Pregúntate qué puedes hacer por tu país”. La declaración de Smith proviene de un libro del que fue coautor en 2019 y al que se refiere como una de las preguntas definitorias de esta generación.

Esta afirmación pone en contexto la importancia y necesidad de proteger a los humanos y nos hace pensar en las implicaciones de las nuevas tecnologías para garantizar que los usos que le damos sean beneficiosos y no perjudiciales.

Smith continúa hablando de cómo deberíamos utilizar la tecnología para mejorar la condición humana como prioridad, no sólo para reducir costos y aumentar los ingresos. Al igual que IBM, que ha hecho un esfuerzo similar, Smith y Microsoft creen que la tecnología debe usarse para mejorar a las personas, no para reemplazarlas.

También, y esto es muy raro hoy en día, habla de la necesidad de anticipar dónde tendrá que estar la tecnología en el futuro para que podamos anticipar los problemas en lugar de limitarnos a responder constante y tácticamente a ellos. La necesidad de transparencia, rendición de cuentas y garantía de que la tecnología se utiliza legalmente son fundamentales para este esfuerzo y están bien explicadas.

Análisis de planos de 5 puntos

El primer punto de Smith es implementar y desarrollar marcos de seguridad de IA liderados por el gobierno. Con demasiada frecuencia, los gobiernos no se dan cuenta de que ya cuentan con algunas de las herramientas necesarias para abordar un problema y pierden mucho tiempo reinventando la rueda de manera efectiva.

El Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. ha realizado un trabajo impresionante en forma de un marco de gestión de riesgos de IA (AI RMF). Es un marco bueno, aunque incompleto. El primer punto de Smith es utilizarlo y desarrollarlo.

El segundo punto de Smith es exigir frenos de seguridad eficaces para los sistemas de IA que controlan la infraestructura crítica. Si una IA que controla la infraestructura crítica se descarrila, podría causar daños masivos o incluso la muerte a una escala significativa.

Debemos asegurarnos de que esos sistemas se sometan a pruebas exhaustivas, tengan una supervisión humana profunda y se prueben en escenarios de problemas no sólo probables sino también improbables para asegurarnos de que la IA no intervenga y empeore las cosas.

El gobierno definiría las clases de sistemas que necesitarían barreras de seguridad, brindaría orientación sobre la naturaleza de esas medidas de protección y exigiría que los sistemas relacionados cumplan con ciertos requisitos de seguridad, como ser implementados únicamente en centros de datos probados y autorizados para tal uso.

El tercer punto de Smith es desarrollar un marco legal y regulatorio amplio basado en la arquitectura tecnológica para la IA. Las IA van a cometer errores. Es posible que a las personas no les gusten las decisiones que toma una IA, incluso si tienen razón, y pueden culpar a las IA por cosas sobre las que la IA no tenía control.

En resumen, habrá muchos litigios por venir. Sin un marco jurídico que abarque la responsabilidad, es probable que las sentencias sean variadas y contradictorias, lo que hace que cualquier reparación resultante sea difícil y muy costosa de alcanzar.

De ahí la necesidad de un marco legal para que las personas comprendan sus responsabilidades, riesgos y derechos para evitar problemas futuros y, en caso de que surja un problema, encontrar un remedio válido más rápido. Esto por sí solo podría reducir lo que probablemente se convertirá en una enorme carga de litigios, ya que la IA se encuentra prácticamente en el campo verde en lo que respecta a precedentes legales.

El cuarto punto de Smith es promover la transparencia y garantizar el acceso académico y sin fines de lucro a la IA. Esto simplemente tiene sentido; ¿Cómo puedes confiar en algo que no puedes entender completamente? La gente no confía en la IA hoy y, sin transparencia, no confiará en ella mañana. De hecho, yo diría que sin transparencia no se debe confiar en la IA porque no se puede validar que hará lo que se propone.

Además, necesitamos acceso académico a la IA para garantizar que las personas comprendan cómo utilizar esta tecnología correctamente al ingresar a la fuerza laboral y acceso sin fines de lucro para garantizar que las organizaciones sin fines de lucro, particularmente aquellas enfocadas en mejorar la condición humana, tengan acceso efectivo a esta tecnología para sus buenas obras.

El quinto punto de Smith es buscar nuevas asociaciones público-privadas para utilizar la IA como una herramienta eficaz para abordar los inevitables desafíos sociales que surgirán. La IA tendrá un impacto enorme en la sociedad, y garantizar que este impacto sea beneficioso y no perjudicial requerirá concentración y supervisión.

Señala que la IA puede ser una espada, pero también puede usarse eficazmente como un escudo que es potencialmente más poderoso que cualquier espada existente en el planeta. Debe utilizarse para proteger la democracia y los derechos fundamentales de las personas en todas partes.

Smith cita a Ucrania como un ejemplo donde los sectores público y privado se han unido de manera efectiva para crear una defensa poderosa. Él cree, como yo, que deberíamos emular el ejemplo de Ucrania para garantizar que la IA alcance su potencial para ayudar al mundo a avanzar hacia un mañana mejor.

Conclusión: un mañana mejor

Microsoft no se limita a acudir al gobierno y pedirle que actúe para abordar un problema que los gobiernos aún no comprenden del todo.

Está presentando un marco sobre cómo debería ser, y francamente debe, ser esa solución para garantizar que mitiguemos los riesgos que rodean el uso de la IA desde el principio y que, cuando haya problemas, existan herramientas y remedios preexistentes disponibles para abordarlos. Entre ellos se encuentra un interruptor de apagado de emergencia que permite finalizar elegantemente un programa de IA que se ha descarrilado.

Ya sea usted una empresa o un individuo, Microsoft le está brindando una excelente lección sobre cómo lograr que el liderazgo aborde un problema, no simplemente arrojárselo al gobierno y pedirle que lo solucione. Microsoft describió el problema y proporcionó una solución bien pensada para que la solución no se convierta en un problema mayor de lo que era en primer lugar.

¡Bien hecho!

Rastreadores de guijarros

Como la mayoría de las personas, mi esposa y yo a menudo extraviamos cosas, lo que parece suceder con mayor frecuencia cuando nos apresuramos a salir de casa y dejar algo sin pensar en dónde lo colocamos.

Además, tenemos tres gatos, por lo que el veterinario nos visita periódicamente para cuidarlos. Varios de nuestros gatos han descubierto lugares únicos y creativos donde esconderse para que no les corten las uñas ni les corten las esteras. Por eso, utilizamos rastreadores como Tile y AirTags.

Pero el problema con los AirTags es que solo funcionan si tienes un iPhone, como mi esposa, lo que significa que ella puede rastrear cosas, pero yo no porque tengo un teléfono con Android. Con Tiles, debes reemplazar el dispositivo cuando la batería se agota o reemplazar la batería, lo cual es una molestia. Por eso, con demasiada frecuencia, la batería se agota cuando necesitamos encontrar algo.

Pebblebee funciona como esos otros dispositivos, pero se destaca porque es recargable y funcionará con la aplicación Pebblebee, que se ejecuta tanto en iOS como en Android. O funcionará con las aplicaciones nativas de esos sistemas operativos: Apple Find My y Google Find My Device. Lamentablemente, no hará ambas cosas al mismo tiempo, pero al menos puedes elegir.

Pebblebee Trackers: Clip para llaves, bolsos y más; Etiquetas para equipaje, chaquetas, etc.; y Tarjeta para carteras y otros espacios estrechos. (Crédito de la imagen: Pebblebee)

---

Cuando se intenta localizar un dispositivo de rastreo, emite un pitido y se enciende, lo que hace que las cosas sean más fáciles de encontrar por la noche y menos como un mal juego de Marco Polo (ojalá los detectores de humo hicieran esto).

Debido a que Pebblebee funciona tanto con Apple como con Android y puedes recargar las baterías, satisface una necesidad personal mejor que Tile o AirTag de Apple, y es mi Producto de la semana.

Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente los puntos de vista de ECT News Network.