3 grandes problemas generativos de IA aún por abordar

La adopción de IA generativa en la tecnología es potencialmente más significativa que cuando se introdujo Internet. Está interrumpiendo la mayoría de los esfuerzos creativos y no es tan capaz como será para fines de la década.

El Gen Ai nos obligará a repensar cómo nos comunicamos, cómo colaboramos, cómo creamos, cómo resolvemos los problemas, cómo gobernamos e incluso cómo y si viajamos, y eso está lejos de ser una lista exhaustiva. Espero que una vez que esta tecnología alcance la madurez, la lista de cosas que no han cambiado será mucho más corta que la lista de cosas que fueron.

Esta semana, me gustaría centrarme en tres cosas que deberíamos comenzar a discutir que representan algunos de los mayores riesgos de IA generativa. No estoy en contra de la tecnología, ni soy lo suficientemente tonto como para sugerir que se detenga porque hacer una pausa sería imposible ahora.

Lo que sugiero es que comenzamos a considerar la mitigación de estos problemas antes de que hagan daños sustanciales. Los tres problemas son la carga del centro de datos, la seguridad y el daño de la relación.

Cerraremos con mi producto de la semana, que puede ser el mejor SUV eléctrico que viene al mercado. De repente estoy en el mercado de un nuevo automóvil eléctrico, pero más sobre eso más adelante.

Carga del centro de datos

Independientemente de todo el bombo, pocas personas están usando IA generativa todavía, y mucho menos usándola a su máximo potencial. La tecnología es intensiva en el procesador y los datos, mientras que se enfoca muy personalmente, por lo que tenerla reside solo en la nube no será factible, principalmente porque el tamaño, el costo y la latencia resultante serían insostenibles.

Al igual que lo hemos hecho con otros datos y aplicaciones centradas en el rendimiento, el mejor enfoque probablemente será un híbrido donde la potencia de procesamiento se mantiene cerca del usuario. Aún así, los datos masivos, que necesitarán una actualización agresiva, deberán cargarse y acceder de manera más central para proteger las capacidades de almacenamiento limitadas de los dispositivos del cliente, los teléfonos inteligentes y las PC.

Pero, debido a que estamos hablando de un sistema cada vez más inteligente que a veces, como cuando se usa para juegos, traducción o conversaciones, requerirá una latencia muy baja. La forma en que la carga se divide sin dañar el rendimiento probablemente determinará si una implementación particular es exitosa.

Lograr una baja latencia no será fácil porque, si bien la tecnología inalámbrica ha mejorado, aún puede ser poco confiable debido al clima, la colocación de las torres o el usuario, las interrupciones de mantenimiento, los desastres hechos por el hombre o naturales y menos la cobertura global menos que completa. La IA debe trabajar tanto en línea como fuera de línea mientras limita el tráfico de datos y evita las interrupciones catastróficas.

Incluso si pudiéramos centralizar todo esto, el costo sería excesivo, aunque tenemos un rendimiento infrautilizado en nuestros dispositivos personales que podrían mitigar gran parte de ese gasto. Qualcomm es una de las primeras empresas en marcar esto como un problema y está haciendo mucho esfuerzo para solucionarlo. Aún así, espere que sea demasiado poco y demasiado tarde, dado la rapidez con la que avanza la IA generativa y cuán relativamente lentamente se desarrolla la tecnología como esta al mercado.

Seguridad

Era un auditor interno especializado en seguridad y un analista competitivo capacitado de maneras legales para penetrar en la seguridad. Aprendí que si alguien puede obtener suficientes datos, puede estimar con mayor precisión los datos a los que no tiene acceso.

Por ejemplo, si conoce el número promedio de automóviles en el estacionamiento de una empresa, puede, con una precisión razonable, estimar el número de empleados que tiene una empresa. En general, puede escanear las redes sociales y descubrir los intereses de los empleados líderes de la empresa, y puede ver las aperturas de trabajo para determinar los tipos de productos futuros que la compañía probablemente esté desarrollando.

Estos modelos de idiomas grandes recopilan grandes cantidades de datos, y espero que muchas de las cosas en las que estos LLMS escanean son o deben ser confidenciales. Además, si se recopila suficiente información, las brechas resultantes de lo que no se escanea serán cada vez más derivables.

Este escenario no se aplica solo a la información corporativa. Con el tipo de información personal que está fácilmente disponible, también podremos determinar mucho más sobre la vida privada de los usuarios.

Los empleadores podrán localizar denunciantes, empleados descontentos o desleales, mal comportamiento de los empleados y empleados que están aprovechando la empresa ilícitamente con mayor precisión. Proteger contra una entidad hostil que deriva información confidencial sobre usted, su empresa o incluso su gobierno se está volviendo más viable con una precisión mucho mayor de lo que disfruté como auditor o analista competitivo.

Es probable que la mejor defensa cree suficiente desinformación para que las herramientas no sepan qué es real y qué no. Sin embargo, esta ruta también hará que los sistemas de IA conectados sean mucho menos confiables en general, lo que estaría bien si solo el competidor usara esos sistemas. Sin embargo, es probable que comprometa los sistemas de la compañía que desea usar protección, lo que resulta en un número creciente de malas decisiones.

Relaciones interpersonales

Empresas como Mindverse con sus Mindos y Suki con sus empleados complementando avatares están mostrando el uso personal futuro de la IA generativa como una herramienta que puede presentarse como si fuera usted. A medida que utilizamos progresivamente herramientas como esta, nuestra capacidad para determinar qué es real y lo que es digital se reducirá significativamente, y nuestras opiniones de las personas que usan estas herramientas reflejarán más en la herramienta que en la persona.

Imagine que su gemelo digital haga una entrevista virtual, sea la cara de su presencia en una aplicación de citas o asume gran parte de sus interacciones virtuales diarias. La herramienta tratará de responder a la persona que interactúa con ella, nunca se cansará o gruñe, y será capacitado para presentarte de la mejor manera posible. Sin embargo, a medida que avanza por este camino, será cada vez menos como quién eres realmente, y probablemente se vuelve mucho más interesante, atractivo y más impecable de lo que podrías ser.

Esto causará problemas porque, al igual que los actores que salen con alguien que ha enamorado de un personaje que el actor una vez jugó, la realidad creará rupturas posteriores y una pérdida de confianza.

La solución más fácil sería aprender a comportarse como su avatar o usarlos para interacciones con amigos y compañeros de trabajo. Dudo que lo hagamos tampoco, pero estos son los dos enfoques más viables para mitigar este problema que se avecina.

Concluir

La IA generativa es sorprendente y mejorará significativamente el rendimiento a medida que avanza en el mercado y los usuarios alcanzan la masa crítica. Sin embargo, hay problemas significativos que deberán abordarse, incluida la carga excesiva de centros de datos, lo que debería impulsar soluciones híbridas en el futuro, la incapacidad de evitar derivar secretos de estos enormes modelos de idiomas y una reducción considerable en la confianza interpersonal.

Comprender estos riesgos que vienen debería ayudar a evitarlos. Sin embargo, las correcciones no son excelentes, lo que sugiere que probablemente lamentaremos algunas de las consecuencias involuntarias de usar esta tecnología.

El océano Fisker

Mi Jaguar i-Pace mordió el polvo el mes pasado debido a un accidente de remolque que dañó su batería. El resultado fue una estimación de $ 100,000 para arreglar el automóvil, que ahora vale más cerca de $ 40,000. Espero que USAA, mi compañía de seguros, totalice el auto. Entonces, he estado buscando autos eléctricos de reemplazo, y en todos los ámbitos, la disponibilidad apesta.

Es probable que obtenga otro Jaguar I-Pace principalmente porque no quiero esperar meses o años para mi propio auto nuevamente. Actualmente, estoy compartiendo el Volve XC-60 de mi esposa y me encuentro con muchos problemas de programación en los que ambos necesitamos el automóvil al mismo tiempo. Fui de compras para un nuevo SUV eléctrico, y el mejor que encontré fue el océano Fisker.

El Océano Fisker All-Electric (Crédito de la imagen: Fisker)

---

Como con la mayoría de los electricidad, la espera de una nueva es meses, y no puedo permitirme esa espera. De los autos eléctricos que están disponibles este año, el Ocean Fisker golpeó todas las cajas. Sus características incluyen:

• Rango de 350 millas (la barra es de 300 millas)
• Su teléfono inteligente puede ser su clave para el vehículo
• Carga inversa, para que su automóvil pueda alimentar su casa durante un corte de energía
• Un impresionante tiempo 0-60 de alrededor de 3.6 segundos (me gusta el rendimiento)
• Un techo de panel solar para aumentar el rango y suministrar energía de emergencia
• Un modo de tipo convertible (que realmente abre el automóvil)
• Uno de los diseños más limpios del mercado.

El océano Fisker es un auto impresionante. Si pudiera esperar hasta fin de año para obtener uno, lo ordenaría en un momento. Lamentablemente, ese no es el caso. Sin embargo, el océano Fisker sigue siendo mi producto de la semana.

Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente las opiniones de la red de noticias ECT.