Lanzada recientemente por Nvidia, la última generación de acelerador de red Ethernet, Spectrum-X, está dirigida específicamente a centros de datos que procesan cargas de trabajo de IA. Hace que el conmutador Ethernet Spectrum-4 (que puede alcanzar 51 Tbps) y la DPU BlueField-3 funcionen en conjunto para reducir la congestión del tráfico y evitar una posible pérdida de paquetes. Según el proveedor, en comparación con las soluciones Ethernet, esta tecnología que combina hardware y software mejora 1,6 veces el funcionamiento de las aplicaciones de IA. Una necesidad, dado que las cargas de trabajo de IA requieren muchos recursos, incluidos los recursos de red.

Nvidia llama a estas interfaces de red habilitadas para IA "SuperNIC". La tecnología Spectrum-X estará disponible en servidores de Dell, Hewlett Packard Enterprise (HPE) y Lenovo. También integrarán las últimas GPU H100 Tensor Core y el software AI Enterprise de Nvidia, así como AI Workbench. "A través de la colaboración entre Dell Technologies y Nvidia, podemos brindar a los clientes la infraestructura y el software necesarios para extraer inteligencia de sus datos de manera rápida y segura". declarado Michael Dell, en un comunicado de prensa.

Índice
  1. “Nada nuevo”, según Broadcom
  2. IA en el centro de datos y perspectivas de ganancias

“Nada nuevo”, según Broadcom

Si bien Nvidia es mejor conocida por sus aceleradores GPU, la compañía también diseña conmutadores de red y su serie de conmutadores Spectrum se utiliza para acelerar cargas de trabajo de big data en centros de datos. "Sin duda, la IA generativa impulsará la innovación en múltiples industrias", dijo en un comunicado Antonio Neri, presidente y director ejecutivo de HPE. "Estas poderosas aplicaciones requerirán una arquitectura fundamentalmente diferente para soportar diversas cargas de trabajo dinámicas". Spectrum-X se utiliza actualmente en la supercomputadora Israel-1 de Nvidia, construida con servidores Dell y la plataforma HGX 100. Esta supercomputadora incluye GPU, DPU BlueField-3, SuperNIC y conmutadores Spectrum-4. Según Nvidia, este modelo sirve como punto de referencia para las empresas que construyen clústeres informáticos de alto rendimiento basados ​​en IA.

Fue durante la feria Computex en Taipei, organizada a finales de mayo de 2023, que Nvidia anunció Spectrum-X por primera vez. Durante su discurso, el director ejecutivo Jensen Huang declaró que Spectrum-X era la "primera solución Ethernet de alto rendimiento para IA del mundo" sin pérdida de paquetes. En ese momento, Broadcom respondió diciéndole al sitio de tecnología The Register que "no hay nada único en su dispositivo que no tengamos ya". Ram Velaga, vicepresidente del grupo de conmutación de Broadcom, dijo anteriormente a The Register que la tecnología de Broadcom ya gestiona eficazmente la congestión de una manera más agnóstica, abordando la capa de software patentada de Nvidia. "La razón por la que Ethernet tiene éxito hoy en día es que su ecosistema es muy abierto", dijo.

IA en el centro de datos y perspectivas de ganancias

La demanda de infraestructura de red preparada para IA, como Spectrum-X de Nvidia, está impulsada en gran medida por el aumento del gasto en centros de datos. “En el segundo trimestre de 2023, el gasto global en productos de infraestructura en la nube aumentó un 7,9% hasta los 24.600 millones de dólares”, dijo la firma de investigación IDC en un comunicado. Según IDC, se espera que el gasto global en soluciones de IA aumente a más de 500 mil millones de dólares en 2027. Aún así, según IDC, el 41% de los bancos minoristas en Asia buscarían invertir en esta área, y el 80% de los CIO aprovecharán las ventajas organizativas. cambios para aprovechar la IA, lo que impulsará la demanda de centros de datos preparados para la IA.

A pesar de las restricciones a las exportaciones a China que podría pesar sobre las ganancias de NvidiaLas acciones de la compañía superaron los 500 dólares, un máximo histórico, en gran parte porque está bien capitalizada por la demanda continua de IA que está impulsando el gasto en centros de datos. "Creemos que la demanda de los clientes estadounidenses de centros de datos y de nube sigue siendo fuerte e intacta, ya que estas empresas todavía están transformando sus centros de datos para equiparlos con capacidades informáticas aceleradas", escribió Harsh Kumar, analista de Piper Sandler, en una nota reciente.