Con la llegada de la IA generativa a las empresas, Los ingenieros invitados se han convertido en perfiles muy solicitadosPero, inevitablemente, alguien también tuvo que preguntarse si su función podría automatizarse, o al menos facilitarse, mediante la IA. Eso fue lo que hicieron los investigadores. Rick Battle y Teja Gollapudi de VMwareque estaban interesados ​​en escribir pautas para un modelo de lenguaje grande (LLM).

Su estudio descubrió que, cuando se trataba de resolver problemas de matemáticas, otra IA superaba a un humano. Su investigación tenía como objetivo determinar si los mensajes de “pensamiento positivo” generados por humanos, como “¡Esto será divertido!” o “Respira profundamente y piensa”, producían mejores respuestas. Encontraron resultados mixtos según el LLM utilizado.

Índice
  1. Casi impecable
  2. Consideraciones éticas

Casi impecable

Sin embargo, “en casi todos los casos”, el uso de indicaciones impulsadas por IA “igualó o superó consistentemente la efectividad de nuestras indicaciones de 'pensamiento positivo' generadas manualmente”, escribieron los expertos. Su conclusión: es fácil engañar a un estudiante de maestría para que presente nuevas respuestas proporcionándole indicaciones diferentes. Es más difícil producir respuestas consistentemente excelentes utilizando indicaciones generadas por humanos. “Mejorar el rendimiento ajustando manualmente la indicación es laborioso y costoso en términos de procesamiento cuando se utilizan procesos científicos para evaluar cada cambio”. Un estudio de 2023 realizado por Chengrun Yang de Google DeepMind y otros investigadores, citados por Battle y Gollapudi, llegaron a una conclusión similar.

Según el estudio de Yang, las indicaciones optimizadas por IA pueden ser específicas para un modelo y una tarea de IA, mientras que las indicaciones humanas pueden producir un rendimiento “dramáticamente diferente”. Su investigación, junto con la de Yang, “destaca la capacidad superior” de las IA para optimizar sus propias consultas. “Participar en el proceso iterativo de ajustar las indicaciones y hacer un seguimiento del progreso en las puntuaciones puede ser agradable”, escribieron los dos expertos de VMware. “Sin embargo, este enfoque es altamente ineficiente en términos de tiempo, especialmente cuando se trata de evaluar sistemáticamente todos los cambios desde una perspectiva científica”, continuaron. “Probablemente no sea sorprendente que las indicaciones de IA tengan el mejor rendimiento, aunque el concepto de 'mejor' puede ser subjetivo”, dijo Daniel Freeman, consultor principal y experto en IA de Scotwork International, una empresa global de capacitación y habilidades de negociación. “Ya estamos analizando los sesgos en los modelos de IA, por lo que la 'mejor' indicación puede ser la que produzca resultados inesperados para el usuario”, dijo. Un artículo reciente de Business Insider sugirió que la IA podría suplantar el trabajo bien remunerado del ingeniero rápido, y Freeman señaló preocupaciones similares a medida que los investigadores y desarrolladores de IA exploran los límites de la IA.

Consideraciones éticas

“Cuando se empieza a pedir a la IA que cree sus propios mensajes, surge la pregunta: ¿estamos priorizando inadvertidamente la reducción de costes por encima de consideraciones éticas más amplias? ¿Realmente queremos eliminar la participación humana? Estudios recientes sugieren la posibilidad de eliminar a los humanos de la IA y de la formación, pero yo diría que se trata de un “camino precario”, añadió. “Dependemos de la intervención humana para guiar el desarrollo de esta tecnología emergente de una manera razonable. La supervisión humana de la tecnología es necesaria si queremos evitar que los chatbots den información inexacta, reducir el plagio en el ámbito académico y abordar los dilemas étnicos en el arte generado por IA, entre otras cosas”, señaló Freeman.

En su trabajo en Scotwork, el ejecutivo ha visto cómo la IA desempeña un papel cada vez más importante en los procesos de formación en negociación. “Es previsible que la IA siga ampliando su papel en las futuras negociaciones comerciales y más allá, pero encontrar el equilibrio adecuado entre la IA y las capacidades humanas será fundamental para su integración exitosa y garantizar que el talento para la negociación siga siendo un arte”, afirmó.