Mistral AI fortalece su asociación con Google Cloud

Mistral AI es, por así decirlo, la startup más de moda en Francia. Y al otro lado del Atlántico se sigue con mucha atención. El primero en acercarse no es otro que Google. A mediados de octubre, Mistral AI anunció que se asociaría con Google Cloud para integrar de forma nativa su modelo de IA de vanguardia en Vertex AI. “Estamos felices de anunciar que el primer modelo de código abierto de Mistral AI, “Mistral 7B”, está integrado en los Vertex AI Notebooks”, podemos leer en una entrada del blog de Google Cloud. "Este portátil público permite a los clientes de Google Cloud implementar un flujo de trabajo de extremo a extremo para experimentar (es decir, probar, perfeccionar) con Mistral 7B y Mistral 7B-Instruct en portátiles Vertex AI". Como recordatorio, los cuadernos de Vertex AI ayudan a los científicos de datos a desarrollar modelos de forma colaborativa compartiéndolos, conectándose a servicios de datos de GCP, analizando conjuntos de datos, experimentando con diferentes técnicas de modelado, implementando modelos entrenados en producción y administrando MLOps durante todo el ciclo de vida del modelo.

La integración del modelo de Mistral AI en Vertex AI aprovecha vLLM, un marco de entrega de LLM optimizado que puede aumentar el rendimiento de la entrega. Al ejecutar el cuaderno, los usuarios podrán implementar automáticamente una imagen vLLM (mantenida por Model Garden) en un punto final de Vertex AI con fines de inferencia. A través de esta integración, los usuarios pueden beneficiarse del Registro de modelos Vertex AI, un repositorio central donde pueden gestionar el ciclo de vida de los modelos Mistral AI y sus propios modelos refinados. A partir de este registro de modelos, los usuarios tendrán una descripción general de sus modelos para poder organizar, rastrear y entrenar mejor las nuevas versiones. Finalmente, cuando quieran implementar una versión de plantilla, pueden asignarla a un punto final directamente desde el registro o, mediante alias, implementar plantillas en un punto final.

La infraestructura de Google Cloud pone los ojos en Mistral AI

Hoy en día, Mistral-7B está completamente integrado en este registro llamado “jardín de modelos” Vertex AI de Google. Mistral AI también elige la infraestructura de Google Cloud para "hacer que la IA generativa sea más abierta y accesible", pero también para ampliar la distribución y la comercialización de "sus modelos de lenguaje propietarios y de código abierto (openweights), gracias a la infraestructura optimizada para IA de Google Cloud". Tenga en cuenta que este acuerdo no es exclusivo, por lo que otros proveedores podrían cortejar a Mistral AI pronto. En este caso, Google Cloud proporciona a la empresa un marco seguro con altos estándares de confidencialidad para probar, construir y desarrollar sus LLM.

“Google Cloud ofrece una pila de hardware y software flexible que nos ayudará a perseguir nuestra ambición de crear modelos de IA de código abierto más grandes y sofisticados, disponibles en varios idiomas. Esto nos permitirá implementar modelos más fácilmente accesibles para todo tipo de organizaciones en todo el mundo”, dijo Arthur Mensch, director ejecutivo y cofundador de Mistral AI. "El enfoque de Google Cloud hacia la IA responsable, el compromiso con las tecnologías de código abierto, las capacidades de infraestructura amplias y confiables y las capacidades comprobadas de privacidad y seguridad encajan perfectamente con nuestro deseo de desarrollar modelos de IA de libre acceso".

Mixtral 8x7B pronto disponible en el mercado de GCP

Tenga en cuenta también que el último modelo presentado por Mistral AI durante su última recaudación de fondos y llamado Mixtral 8x7B pronto estará disponible en el mercado de Google Cloud. Este modelo parece muy prometedor a la vista de las primeras pruebas realizadas. El equipo de Mistral AI afirma que “supera a Llama 2 70B en la mayoría de los puntos de referencia con una inferencia 6 veces más rápida. Es el modelo abierto más potente con una licencia permisiva y el mejor modelo general en términos de relación coste/rendimiento. En particular, iguala o supera a GPT3.5 en la mayoría de los puntos de referencia estándar”.

Para Isabelle Fraine, directora general de Google Cloud France, esta asociación es prometedora, tanto para el proveedor de la nube como para el unicornio francés. "Al aprovechar la infraestructura optimizada para IA y la experiencia técnica de Google Cloud, los ya impresionantes logros de Mistral AI se convertirán en soluciones confiables, accesibles y 'plug-and-play' para las empresas, en línea con la creciente demanda global de soluciones de IA generativa".