La adopción de la inteligencia artificial está cambiando los hábitos de compra de servidores, pero está teniendo un impacto rápido y positivo en las empresas que implementan tecnologías de IA. Estas son las conclusiones de los dos informes de investigación de la empresa de investigación Omdia. En un próximo informe sobre el mercado de la nube y de los centros de datos, la firma de investigación predice una reducción en el número de entregas de servidores por primera vez desde 2007. Excepto que la caída en las ventas de servidores observada en 2007 se debió a la crisis económica global. La tendencia actual en la compra de servidores es más positiva. Omdia ha descubierto que la demanda de recursos de TI sigue siendo alta. Sin embargo, el informe también afirma que la demanda de servidores más caros con hardware especializado para entrenar modelos de IA (en resumen, sistemas potenciados con aceleradores GPU) tiene prioridad sobre el típico servidor empresarial con sólo uno o dos procesadores. Según Omdia, durante el primer trimestre de 2023 se vendieron 2,8 millones de servidores, significativamente menos que los 3,2 millones previstos originalmente por la firma de investigación. "La caída de las entregas entre el cuarto trimestre de 2022 y el primer trimestre de 2023 es la mayor registrada", dijo Omdia.

El miedo a perderse el muy activo mercado de la IA está empujando a los proveedores de servicios en la nube (CSP) y a las empresas a aumentar sus inversiones en hardware dedicado a la IA, como el DGX H100 de NVIDIA (desde 482.000 dólares sin impuestos con 8 GPU). Una tarjeta Nvidia H100 se vende al precio sin descuento de 40.000 dólares sin impuestos. Sin embargo, este último es claramente más caro que un servidor tradicional. Además, para compensar el considerable costo asociado con las inversiones en servidores de IA, los proveedores de servicios en la nube y las empresas están retrasando la renovación de sus servidores existentes. "Estamos viendo un importante flujo de inversión en clusters de IA", afirmó Vladimir Galabov, jefe de investigación de centros de datos y nube de Omdia. “Estos son proyectos de gran escala. Cada servidor puede costar medio millón de dólares, el equivalente a 50 o 60 servidores de uso general”, añadió. Desde hace algún tiempo, la tendencia ha sido mantener el hardware implementado por más tiempo. “Antes los servidores se renovaban cada tres o cuatro años. Hoy en día, la vida útil típica del servidor de un CSP de nivel 1 es de seis años, mientras que los proveedores de nivel 2 informan una vida útil de hasta 10 años”, afirmó Omdia.

Diseñados para informática intensiva aplicada a IA, los servidores DGX H100 admiten hasta ocho aceleradores GPU. (Crédito Nvidia)

Otros factores explican la desaceleración de las ventas de hardware para servidores. El contexto macroeconómico es uno de ellos, al igual que los costos crecientes y el acceso más limitado al capital para impulsar el arbitraje de inversiones. El estudio también indica que la mayoría de las empresas ya han optimizado sus operaciones para adoptar un modelo híbrido Capex/Opex, que combina TI local y servicios en la nube. "Las empresas están adoptando una estrategia menos riesgosa al utilizar servicios en la nube para satisfacer las necesidades de TI a corto plazo mientras evalúan cuidadosamente la demanda a largo plazo", dijo la firma de investigación. Esto significa que están vendiendo menos hardware local y adoptando más servicios en la nube.

Una IA rápidamente rentable

Omdia también señaló que las inversiones en IA se vuelven rentables muy rápidamente gracias al aumento de la facturación.reduciendo los costes netos y mejorando la eficiencia y la experiencia del cliente. Aunque son relativamente nuevas, las implementaciones de IA ya están teniendo un impacto. Alrededor del 54 % de los encuestados informaron una ganancia del 1 % o más en sus resultados, y el 14 % vio un retorno de la inversión del 11 % o más, según la categoría. Cabe señalar que Omdia realizó su encuesta a 369 empresas en febrero de 2023, es decir, mucho antes de que los proyectos de IA generativa pudieran haber tenido algún impacto. Por tanto, este estudio mide los primeros despliegues de IA. Omdia predice que el temprano retorno de la inversión en IA probablemente acelerará la innovación en IA a medida que más empresas vean los beneficios. Las iniciativas de IA generativa, en particular, sin duda tendrán más posibilidades de demostrar su valía. A medida que los proyectos de IA maduren dentro de las empresas y se obtengan los beneficios, las empresas ampliarán las implementaciones de IA a otros casos de uso y otras áreas comerciales. Con un retorno de la inversión tangible para justificar los programas, aumentará la confianza de la alta dirección en la expansión de las iniciativas de IA, lo que a su vez impulsará un mayor gasto.