Si algunos anuncios hechos la semana pasada durante la conferencia VMware Los viajes en Las Vegas giran en torno a la nube; la IA es principalmente la que domina, como ocurre últimamente con casi todas las empresas tecnológicas. Los proveedores han estado compitiendo para equipar sus plataformas con capacidades de IA generativa, y VMware no es una excepción. Por ahora, las principales funciones de IA anunciadas en la conferencia, a saber, VMware Private AI Foundation e Intelligent Assist, no estarán disponibles hasta dentro de varios meses. VMware Private AI Foundation, en desarrollo conjunto con Nvidia, permitirá a las empresas personalizar modelos y ejecutar aplicaciones de IA generativa en su propia infraestructura. Intelligent Assist es un conjunto de soluciones generativas impulsadas por IA entrenadas con datos patentados de VMware para automatizar tareas de TI.
Por otro lado, ya está disponible la herramienta SafeCoder. Lanzado con colaboración por abrazando la caraLa solución comercial se basa en un gran modelo de lenguaje de código abierto que las empresas pueden perfeccionar en sus propias bases de código y ejecutar en sus propios entornos seguros. VMware utiliza SafeCoder internamente y publica una arquitectura de referencia con código de muestra para clientes que desean aprovechar SafeCoder en la infraestructura de VMware. “Han pasado varios meses desde que se implementó el modelo SafeCoder en nuestro propio centro de datos”, dijo Chris Wolf, vicepresidente de VMware AI Labs, durante las mesas redondas celebradas el martes y miércoles pasados sobre el tema. "Este modelo, especialmente adaptado para el desarrollo de software, se basa en 15 mil millones de parámetros", añadió. El editor completó el entrenamiento del modelo entrenándolo en parte de su propia base de código. "Buscamos identificar a los mejores ingenieros de software de la empresa y ajustamos el modelo en función de su entrega", dijo Wolf. Como se trataba de un modelo más pequeño y especializado, el desarrollo tomó sólo cuatro horas. “La solución que propusimos a nuestros ingenieros de software tuvo una tasa de aceptación del 93% por parte de nuestros desarrolladores de software. Esto significa que les gustó la solución y continúan usándola porque los hace más productivos”, afirmó Wolf.
Proporcionar una plataforma segura para la IA generativa
VMware también lanzó una arquitectura de referencia para su propia pila de IA. "El desarrollo de software está maduro para la IA generativa", dijo el martes el director ejecutivo de VMware, Raghu Raghuram, durante una mesa redonda sobre IA. “Cada vez más empresas están sujetas a limitaciones de desarrollo y esto puede ayudarlas a ser más productivas. Además, las IA codificadoras se pueden entrenar en un conjunto de datos de entrenamiento relativamente homogéneo y limitado”, dijo. "En la mayoría de las empresas, es una única fuente de datos". Pero VMware no planea dedicarse a la creación de modelos de IA generativa. "Nosotros proporcionaremos la infraestructura", dijo Raghuram. "Podemos aprovechar esta gran oportunidad para hacer lo que mejor sabemos hacer: proporcionar una plataforma local, en Azure, AWS o en cualquier otro lugar, para que las empresas creen y ejecuten su IA generativa", dijo el CEO.
Debut de Intelligent Assist para Tanzu, Workspace ONE y NSX+
Unos pocos clientes privilegiados se beneficiarán del acceso temprano a Intelligent Assist. Esta solución generativa impulsada por IA tiene como objetivo simplificar y automatizar todos los aspectos de la TI empresarial, incluidas las redes. Intelligent Assist funciona con VMware Private AI. La plataforma de aplicaciones en la nube Tanzu (Kubernetes) se encuentra entre los productos de VMware que tendrán acceso a Intelligent Assist. La solución permitirá a los usuarios solicitar y perfeccionar de forma conversacional cambios en la infraestructura de nube de su organización. Según Mike Wookey, vicepresidente y CTO de gestión de la nube de VMware, con Tanzu Intelligent Assist los usuarios podrán hacer preguntas y decidir qué acciones tomar. Intelligent Assist también controlará la interfaz de usuario de los productos Tanzu, dirigiendo a los usuarios a las vistas correctas para analizar o tomar medidas. "En este caso, la IA generativa proviene de los servicios de Azure AI, que verán el mensaje y el esquema, pero no los datos privados del cliente", dijo Wookey. "Para la documentación, utilizamos otro modelo privado entrenado en la documentación de Tanzu y generamos un resumen específico", dijo además. “Es tecnología de punta desde dos puntos de vista: por un lado, generamos código de ejecución determinista a partir de lenguaje natural, lo verificamos y lo utilizamos para generar respuestas para los clientes; por otro lado, utilizamos un enfoque multimodelo, asegurando que los datos de los clientes nunca estén expuestos al LLM público, mientras aprovechamos el vasto conocimiento y precisión del LLM público”. Intelligent Assist estará disponible "en algún momento de este año", dijo un portavoz de VMware.
Además de Tanzu, Workspace ONE con Intelligent Assist permitirá a los usuarios crear guiones utilizando indicaciones en lenguaje natural. La plataforma de red NSX+ de VMware también recibe ayuda de Intelligent Assist. Actualmente en versión preliminar técnica, NSX+ con Intelligent Assist permitirá a los analistas de seguridad determinar de forma rápida y más precisa la relevancia de los hallazgos de seguridad y remediar las amenazas. VMware también hizo anuncios sobre la IA clásica, aquellas que utilizan enfoques tradicionales de aprendizaje automático en lugar de IA generativa. Por ejemplo, VMware anunció integraciones de IA para su plataforma Anywhere Workplace que optimizan automáticamente la experiencia de los empleados, permiten nuevos casos de uso en la gestión de vulnerabilidades y simplifican la gestión del ciclo de vida de las aplicaciones. VMware también se ha asociado con Domino Data Lab para ofrecer una plataforma de infraestructura, ciencia de datos y análisis unificada, optimizada, validada y respaldada diseñada específicamente para implementaciones de IA y ML en la industria de TI. servicios financieros. Finalmente, VMware vSphere, vSAN 8 y Tanzu ahora están optimizados con el paquete de software de inteligencia artificial de Intel para aprovechar los aceleradores de inteligencia artificial integrados en los últimos procesadores escalables Intel Xeon de cuarta generación.
Por una IA responsable
En general, este año hubo más de dos docenas de sesiones sobre IA en VMware Explore, incluido un panel sobre IA responsable centrado en el papel que deben desempeñar los humanos. "Es bueno preocuparse por los límites de la tecnología", dijo Meredith Broussard, profesora de periodismo en la Universidad de Nueva York, directora de investigación de la Alianza para la Tecnología de Interés Público de la Universidad de Nueva York y autora de varios libros sobre la IA y sus sesgos. Advirtió sobre el riesgo de obtener resultados sesgados cuando los modelos de IA se entrenan con datos sesgados. Desafortunadamente, a veces es difícil saber con qué datos se entrenó un modelo. "Para la mayoría de los modelos disponibles hoy en día, las fuentes de datos se consideran propietarias", afirmó Wolf de VMware. “Es difícil entender de dónde viene el sesgo si no se pueden ver los datos. Nuestros ingenieros han trabajado con algunos de estos modelos en el pasado y en muy poco tiempo es posible empujar el modelo hacia cosas muy poco éticas”, añadió.
Este último también explicó que VMware buscaba orientar el sector hacia modelos más ligeros y especializados, más fáciles de entrenar, más precisos e incluso con menor huella de carbono. "Es posible controlar los datos y tener un conocimiento completo de los datos utilizados para entrenar el modelo", dijo Wolf. "Es por esta y otras razones que VMware no quiso utilizar ChatGPT", añadió. "No queríamos integraciones con ChatGPT porque corrían el riesgo de violar las reglas de privacidad y cumplimiento impuestas por nuestros clientes", dijo. “Queremos entender las fuentes de datos que entran en el modelo, queremos saber si el modelo está sesgado. Queremos ayudar a nuestros clientes a comprender la precisión de la IA y explicar sus resultados. Somos muy cuidadosos, interna y externamente, con la forma en que abordamos la IA”.
Otras noticias que te pueden interesar