Liberar la IA de las sombras, sostiene el profesor de Wharton

Los trabajadores están utilizando herramientas de inteligencia artificial para aumentar la productividad individual, pero mantienen su actividad baja, lo que podría estar perjudicando el desempeño general de sus organizaciones, sostiene un profesor de la escuela de negocios Wharton en un blog publicado el domingo.

"Hoy en día, miles de millones de personas tienen acceso a grandes modelos de lenguaje (LLM) y a los beneficios de productividad que aportan", escribió Ethan Mollick en su blog One Useful Thing. "Y, tras décadas de investigación en innovación estudiando a todos, desde fontaneros hasta bibliotecarios y cirujanos, sabemos que, cuando se les da acceso a herramientas de uso general, las personas descubren formas de utilizarlas para hacer su trabajo más fácil y mejor".

"Los resultados suelen ser inventos revolucionarios, formas de utilizar la IA que podrían transformar un negocio por completo", continuó. “La gente está simplificando las tareas, adoptando nuevos enfoques para la codificación y automatizando partes de sus trabajos que consumen mucho tiempo y son tediosas. Pero los inventores no informan a sus empresas sobre sus descubrimientos; son los cyborgs secretos, humanos potenciados por máquinas que se mantienen ocultos”.

Mollick sostuvo que las formas tradicionales en que las organizaciones responden a las nuevas tecnologías no funcionan bien para la IA y que la única manera de que una organización se beneficie de la IA es obtener la ayuda de sus "cyborgs" y al mismo tiempo alentar a más trabajadores a utilizar la IA.

Eso requerirá un cambio importante en la forma en que operan las organizaciones, sostuvo Mollick. Esos cambios incluyen incluir a la mayor parte posible de la organización en la agenda de la IA, disminuir los temores asociados con el uso de la IA y proporcionar incentivos para que los usuarios de la IA se presenten y alienten a otros a usarla.

Las empresas también deben actuar rápidamente en algunas cuestiones básicas, añadió Mollick. ¿Qué hace con las ganancias de productividad que podría lograr? ¿Cómo se reorganiza el trabajo y se eliminan los procesos que la IA ha dejado vacíos o inútiles? ¿Cómo gestiona y controla el trabajo que podría incluir riesgos de alucinaciones provocadas por la IA y posibles problemas de propiedad intelectual?

Negocios disruptivos

Por muy beneficioso que pueda ser sacar a la IA de las sombras, podría ser muy perjudicial para una organización.

“La IA puede tener un impacto positivo del 30% al 80% en el rendimiento. De repente, un empleado marginal con IA generativa se convierte en una superestrella”, observó Rob Enderle, presidente y analista principal de Enderle Group, una firma de servicios de asesoría en Bend, Oregon.

"Si no se divulga la IA generativa, puede generar dudas sobre si un empleado está haciendo trampa o si estuvo holgazaneando antes", dijo a TechNewsWorld.

"La parte del secreto no es tan perturbadora, ya que es potencialmente problemática tanto para el gerente como para el empleado, particularmente si la empresa aún no ha establecido una política sobre el uso y la divulgación de la IA", añadió Enderle.

El uso de la IA podría generar una visión poco realista del conocimiento o la capacidad de un empleado que podría generar expectativas peligrosas en el futuro, dijo Shawn Surber, director senior de gestión técnica de cuentas de Tanium, un proveedor de gestión convergente de terminales, en Kirkland, Washington.

Citó el ejemplo de un empleado que utiliza una IA para escribir un informe extenso sobre un tema en el que no tiene conocimientos profundos. "La organización puede verlos como expertos, pero en realidad, simplemente usaron una IA para escribir un único informe", dijo a TechNewsWorld.

También pueden surgir problemas si un empleado utiliza IA para producir código o procesar documentación que ingresa directamente a los sistemas de una organización, agregó Surber. "Las IA con modelos de lenguaje grande son excelentes para generar grandes cantidades de información, pero si no se controlan cuidadosamente, podrían crear problemas en el sistema o incluso problemas legales para la organización", explicó.

Uso sin sentido de la IA

La IA, cuando se usa bien, dará a los trabajadores un aumento de productividad que no es inherentemente disruptivo”, sostuvo John Bambenek, principal cazador de amenazas en Netenrich, una empresa de operaciones de seguridad digital y TI en San José, California.

"Es el uso irreflexivo de la IA lo que puede ser perjudicial para los trabajadores, simplemente no revisar el resultado de estas herramientas y filtrar las respuestas sin sentido", dijo a TechNewsWorld.

Comprender la lógica detrás de los resultados de la IA generativa a menudo requiere conocimientos especializados, agregó Craig Jones, vicepresidente de operaciones de seguridad de Ontinue, un proveedor de respuesta y detección administrada en Redwood City, California.

"Si las decisiones se basan ciegamente en estos resultados, esto puede conducir a estrategias equivocadas, sesgos o iniciativas ineficaces", dijo a TechNewsWorld.

Jones afirmó que el uso clandestino de la IA podría cultivar un ambiente de inconsistencia e imprevisibilidad dentro de una organización. “Por ejemplo”, dijo. "Si un individuo o un equipo aprovecha la IA para agilizar las tareas o aumentar el análisis de datos, su desempeño podría eclipsar significativamente a aquellos que no emplean recursos similares, creando resultados de desempeño desiguales".

Además, continuó, la IA utilizada sin conciencia gerencial puede plantear serios dilemas éticos y legales, particularmente en sectores como los de recursos humanos o las finanzas. "Las aplicaciones de IA no reguladas pueden perpetuar sesgos o infringir requisitos reglamentarios sin darse cuenta".

Prohibir la IA no es una solución

Por muy disruptiva que pueda ser la IA, prohibir su uso por parte de los trabajadores probablemente no sea el mejor curso de acción. Debido a que “la IA proporciona un aumento de productividad del 30% al 80%”, reiteró Enderle, “prohibir la herramienta haría, de hecho, que la empresa fuera incapaz de competir con sus pares que están adoptando y utilizando la tecnología adecuadamente”.

"Es una herramienta potente", añadió. "Ignóralo bajo tu responsabilidad".

Una prohibición total puede no ser el camino correcto a seguir, pero establecer pautas sobre qué se puede hacer y qué no con la IA pública es apropiado, señaló Jack E. Gold, fundador y analista principal de J. Gold Associates, una empresa de asesoría de TI. , en Northborough, Massachusetts.

"Hicimos una encuesta a usuarios empresariales preguntando si sus empresas tenían una política sobre el uso de IA pública, y el 75% de las empresas dijeron que no", dijo a TechNewsWorld.

"Así que lo primero que debes hacer si te preocupa que tu información se filtre es establecer una política", dijo. "No se puede gritar a la gente por no seguir una política si no la hay".

La fuga de datos puede suponer un riesgo de seguridad considerable cuando se utilizan aplicaciones de IA generativa. "Muchos de los riesgos de seguridad de la IA provienen de la información que las personas ingresan en ella", explicó Erich Kron, defensor de la concientización sobre la seguridad en KnowBe4, un proveedor de capacitación en concientización sobre la seguridad en Clearwater, Florida.

"Es importante comprender que la información esencialmente se carga a estos terceros y se procesa a través de la IA", dijo a TechNewsWorld. "Esto podría ser un problema importante si la gente no piensa en la información confidencial, la PII o la propiedad intelectual que le están proporcionando a la IA".

En su blog, Mollick señaló que la IA está aquí y ya está teniendo un impacto en muchas industrias y campos. "Entonces, prepárense para conocer a sus cyborgs", escribió, "y comiencen a trabajar con ellos para crear una nueva y mejor organización para nuestra era atormentada por la IA".