Nvidia se está asociando con el gigante de los centros de datos Equinix para ofrecer lo que los proveedores llaman IA privada con Nvidia DGX. Esta solución llave en mano está dirigida a empresas que desean utilizar IA generativa pero no tienen la infraestructura ni la experiencia del centro de datos para hacerlo por sí mismas. Según el acuerdo, Equinix aloja y administra las supercomputadoras Nvidia DGX que compran las empresas. Por lo tanto, es un acuerdo de coubicación estándar, pero en lugar de los servidores x86 tradicionales, Equinix alberga clústeres de GPU de Nvidia impulsados ​​por aceleradores H100cuyo precio es del orden de un millón y puede llegar a varios millones.

“Esta solución es para empresas que, por diversas razones de seguridad, soberanía de datos y auditabilidad, no quieren que sus datos se alojen en una nube pública”, dijo Charlie Boyle, vicepresidente de sistemas DGX en Nvidia, en una conferencia telefónica con periodistas. “Muchas empresas no tienen la experiencia para construir estos clústeres de sistemas tan complejos”, agregó. “La mayoría de las empresas tienen cantidades masivas de datos, a veces décadas de datos. Y todos esos datos deben estar muy cerca del procesamiento de IA que están tratando de lograr”, explicó.

Implemente recursos de IA más rápido

El camino hacia la IA es largo y empinado, es muy costoso y las habilidades son difíciles de conseguir. Todas estas cosas son barreras para la adopción y el despliegue de una IA integral por parte de las empresas. El servicio está totalmente gestionado y Equinix es uno de los proveedores de centros de datos más grandes del mundo, con 250 instalaciones en 71 áreas metropolitanas. “Muchos clientes quieren esta capacidad dentro de su empresa”, dijo John Lin, vicepresidente ejecutivo y gerente general de servicios de centros de datos en Equinix. “Los clientes realmente pueden ahorrar tiempo desde el proyecto de infraestructura de IA hasta su implementación y uso operativo”, agregó Lin.

El servicio Private AI de Equinix ofrece configuraciones de clúster DGX BasePod o SuperPod de Nvidia, a partir de ocho GPU DGX H100 para BasePod y 128 sistemas DGX H100 para SuperPOD. Los sistemas están conectados mediante la interfaz de red InfiniBand de latencia ultrabaja de Mellanox/Nvidia y son administrados por el equipo de servicios administrados de Equinix. El servicio también incluye la plataforma empresarial de IA de Nvidia, que incluye modelos preentrenados, marcos optimizados y bibliotecas de software de ciencia de datos aceleradas para crear LLM. Los centros de datos de Equinix están conectados a Internet a través de una red privada de alta velocidad, y la empresa también ofrece interconexiones de alta velocidad con los principales proveedores de servicios empresariales y de la nube. Equinix Private AI con Nvidia DGX estuvo disponible a principios de esta semana.