Protocolo CXL: hacia un uso consistente y eficiente de los recursos del centro de datos

Los futuros servidores, que se espera salgan al mercado en los próximos meses, estarán equipados con procesadores Intel Xeon Scalable Sapphire Rapids o chips AMD Epyc Genoa, con una particularidad: soportarán el protocolo Compute Express Link (CXL), un estándar de interconexión abierto que podría resultar muy útil, especialmente en iteraciones futuras. Con el respaldo de prácticamente todos los proveedores de hardware, el CXL se basa en PCI Express para brindar un acceso constante a la memoria entre un procesador y un periférico, como un acelerador de hardware (GPU, DPU o FPGA), o entre un procesador y la memoria.

Si bien el PCIe fue diseñado para comunicaciones punto a punto, entre un SSD y la memoria en particular, el CXL podrá admitir comunicaciones de multidifusión, o "uno a muchos", mediante la transmisión de protocolos coherentes. Por ahora, en su iteración 1.1 actual, el CXL solo es capaz de manejar comunicación punto a punto, pero ya se han anunciado nuevas especificaciones 2.0 y 3.0. Como el CXL está acoplado al PCIe, estas versiones de CXL dependen de las próximas versiones del PCIe. En promedio, pasan dos años entre dos versiones de PCIe y lleva aún más tiempo entre la publicación de una especificación y el lanzamiento de productos. Actualmente, los dispositivos CXL 1.1 y 2.0 se encuentran en la etapa de prueba de ingeniería.

protocolos CXL

Hay tres tipos de protocolos CXL:

CXL.io: es una versión mejorada del protocolo PCIe 5.0 para inicialización, descubrimiento de dispositivos y conexión de dispositivos.

CXL.caché: Este protocolo define las interacciones entre un host y un dispositivo, de modo que los dispositivos CXL conectados puedan almacenar en caché de manera eficiente la memoria del host con una latencia extremadamente baja utilizando un enfoque de solicitud y respuesta.

CXL.mem: Este protocolo permite que un procesador anfitrión acceda a la memoria de un dispositivo adjunto, cubriendo arquitecturas de memoria tanto volátiles como persistentes.

A partir de CXL 1.1, el protocolo CXL.mem es el más importante de los tres. Si un servidor necesita más RAM, puede encontrarla en el módulo de memoria CXL que ocupa una ranura PCIe 5.0 vacía. El rendimiento es algo inferior y hay algo más de latencia, pero a cambio proporciona más memoria en un servidor sin tener que comprarlo. Por supuesto, el rendimiento es un poco más bajo y habrá un poco más de latencia, pero eso es una compensación miserable para obtener más memoria en un servidor sin tener que comprarla. Obviamente, tienes que comprar el módulo CXL.

El protocolo CXL 2.0 admite la agrupación de memoria, es decir, puede utilizar la memoria de varios sistemas en lugar de uno solo. Según Microsoft, alrededor del 50 % de todas las máquinas virtuales nunca consumen la mitad de su memoria alquilada. El CXL 2.0 podría encontrar y usar esta memoria no utilizada. Según Microsoft, la desagregación a través de CXL puede reducir el requisito general de DRAM en un 9-10%. Eventualmente, el CXL debería establecerse como una interfaz con el caché para conectar de manera coherente un número ilimitado de CPU, módulos de memoria, aceleradores de procesos (en particular FPGA y GPU) y otros periféricos. La especificación CXL 3.0, anunciada en la Flash Memory Summit (FMS) del 2 al 4 de agosto en Santa Clara, California, lleva la desagregación aún más lejos, ya que permite que otros componentes de la arquitectura (procesadores, almacenamiento, red y otros aceleradores) se agrupen y abordado dinámicamente por múltiples hosts y aceleradores, al igual que la memoria en la especificación 2.0. La especificación 3.0 también proporciona comunicaciones directas entre pares a través de un conmutador o incluso de una estructura de conmutador, por lo que, en teoría, dos GPU podrían comunicarse entre sí sin usar la red o involucrar la CPU y la memoria de la GPU. anfitrión.

Kurt Lender, copresidente del grupo de trabajo de marketing de CXL y gerente sénior de ecosistemas de Intel, dijo: “CXL estará en todas partes. Los informáticos no serán los únicos en adoptarlo. Todos lo adoptarán. En los próximos años, CXL se convertirá en un estándar para todos los servidores nuevos. En los centros de datos empresariales, el CXL puede hacer mucho. Según el Sr. Lender, debido a que el CXL funciona a nivel del sistema, la mayoría de las aplicaciones no necesitan ser modificadas y podrán aprovechar los beneficios de la función. “Por ejemplo, las bases de datos en memoria pueden aprovechar la agrupación de memoria”, agregó. Esta combinación de componentes podría proporcionar algunos de los recursos que necesita la IA. De hecho, gracias a esta combinación de CPU, GPU, FPGA y puertos de red, los centros de datos completos podrían comportarse como un solo sistema. Pero, no hay necesidad de dejarse llevar. Todavía tenemos que esperar la llegada de productos compatibles con CXL 2.0. Las demostraciones realizadas en la reciente feria FMS sugieren que pronto estarán disponibles en el mercado. Señalemos como conclusión que start-ups como Fungible o Liqid no esperaron la llegada de este protocolo para empezar a explotar recursos desagregados en un centro de datos.