Poco a poco, los actores de la IA van prestando atención al consumo eléctrico de las infraestructuras necesarias para el desarrollo y entrenamiento de modelos. Lenovo es parte de este enfoque al presentar la sexta generación de su plataforma de refrigeración líquida Netptune que pudimos observar de cerca en un servidor ThinkSystem SD650-I V3 en la feria Teratec 2023Ahora se extiende a los servidores ThinkSystem V3 y V4 con una opción de circuito de agua abierto para las CPU. Netpune también ofrece otros sistemas de refrigeración: una placa fría para CPU y aceleradores para maximizar la extracción de calor, un proceso de refrigeración de memoria para HPC y una técnica con agua caliente reutilizable.

Esta multitud de técnicas parte de una simple observación, como Fabrice Coquio, presidente de Digital Realty France, recordó recientemente"Hoy en día, las plataformas de IA necesitan 100 kW para refrigerarse. Sin embargo, la refrigeración por aire no puede superar los 22 kW. La única opción es la refrigeración por agua". Por ello, los centros de datos están teniendo en cuenta esta nueva situación mediante la integración de la refrigeración líquida y, en particular, la oferta Neptune de Lenovo. Las dos empresas han firmado un acuerdo de colaboración para proporcionar la plataforma en más de la mitad de sus centros de datos en todo el mundo.

Más servicios de IA verticales

Jeremy Roberts, analista principal de Info-Tech Research Group, dijo a Network World: “La IA está bajo escrutinio debido a su huella de carbono, y una solución que, incluso si termina siendo más compleja o más cara, pueda reducirla significativamente podría ser una gran victoria para el comprador”. La refrigeración líquida es una gran idea en teoría y ha existido durante mucho tiempo, pero tiene algunas advertencias. “En primer lugar, la mayoría de las cargas de trabajo no requieren este tipo de tecnología. Además, administrar la plomería podría ser un desafío”, dijo Roberts. No ve la adopción del proceso en el corto plazo, pero “es muy probable que este tipo de solución aumente a medida que crezcan las necesidades informáticas”.

Además del aspecto de refrigeración, Lenovo también anunció servicios de IA basados ​​en chips y software de Nvidia. En particular, está AI Fast Start for NIM (Nvidia Inference Microservices) que proporciona a los desarrolladores un motor de inferencia en contenedores. Por su parte, AI Fast Start for Innovators ayuda a las empresas a crear casos de uso de IA aprovechando la cartera de 165 soluciones llave en mano del programa Lenovo AI Innovators y los servicios de consultoría. Siguiendo con los casos de uso, el programa Fast Start se está volviendo más vertical con uno dedicado a la atención al cliente, el mundo de los viajes, la industria y la distribución.