¿Ha afectado el síndrome del aprendiz de brujo al mundo de la IA? una carta abiertafirmado por más de 1.100 personas (hasta la fecha), lanza un llamamiento para detener durante 6 meses la investigación sobre IA generativa y, más precisamente, “el entrenamiento de modelos más potentes que GPT-4”. Entre los firmantes se encuentra Elon Musk, que participó en el desarrollo de OpenAI, o Steve Wozniak, cofundador de Apple y cofundador de StableAI, pero también numerosos académicos especializados en IA.

Esta pausa bianual es necesaria porque estos sistemas de IA “pueden presentar riesgos profundos para la sociedad y la humanidad”, explican los firmantes. Las proyecciones sobre puestos de trabajo perdidos, imágenes apropiadas indebidamente, derechos de autor y riesgos de ciberseguridad son problemas que plantea la IA generativa. Hasta el punto de preguntar: "¿Deberíamos arriesgarnos a perder el control de nuestra civilización?" » Sin embargo, según ellos, los laboratorios han liderado recientemente “una carrera descontrolada para desarrollar y desplegar habilidades digitales cada vez más potentes que nadie –ni siquiera sus creadores– puede comprender, predecir o controlar de forma fiable”. Por ejemplo, OpenAI ya está trabajando en GPT-5.

Estados llamados al rescate

Al no lograr una suspensión temporal verificable y pública del trabajo en IA generativa, la carta abierta pide a los gobiernos que establezcan una moratoria sobre el tema. El objetivo es establecer reglas de seguridad y buenas prácticas en términos de precisión, transparencia y explicabilidad. Por ejemplo, la Unión Europea está en medio de discusiones para desarrollar una Ley de IA.

Queda por ver cuál será el alcance de tal apelación. Si la revolución generativa de la IA está en marcha, será muy difícil detenerla. Los editores, incluido Microsoft, han comprendido que este poder podría marcar la diferencia en sus soluciones (motor de búsqueda, suite colaborativa, CRM, ciberseguridad). Están aumentando el número de anuncios de integración y deberían acelerarse en los próximos meses.