Con los aceleradores MI300X, AMD compite contra Nvidia

AMD todavía está avanzando sus peones en el mercado de aceleradores. Y más concretamente aquellas dedicadas a procesar pesadas cargas de trabajo de inteligencia artificial generativa -y también HPC- en centros de datos. La empresa sin fábrica especializada en el diseño de semiconductores levantó el velo sobre sus aceleradores Instinct MI300X durante un evento especial "Advancing AI" transmitido en la web. “En AMD consideramos que la IA es la tecnología más transformadora de los últimos 50 años”, afirmó Lisa Su, directora ejecutiva de AMD. "La IA es la principal prioridad de AMD".

Los aceleradores Instinct MI300X del grupo destacan por su ancho de banda de memoria optimizado (5,3 TB/s teórico) para tareas de entrenamiento e inferencia. Están diseñados en un motor gráfico CDNA 3 que proporciona altos niveles de rendimiento y eficiencia para optimizar las cargas de trabajo de IA al admitir TF32, FP16, BF16 y los formatos INT8 y FP8 más eficientes. “ Compatibilidad con unidades de cómputo AMD CDNA 3 dos variantes del tipo de datos FP8 tal como se define en la especificación de punto flotante de 8 bits OCP: una con una mantisa de 2 bits y un expansor de 5 bits, y la otra con una mantisa de 5 bits para entrenamiento (E5M2) y una mantisa de 3 bits con un exponente de 4 bits para inferencia (E4M3)”, explica AMD en un último documento técnico. "Para los cálculos de menor precisión utilizados en el aprendizaje automático, la GPU discreta MI300X ofrece ganancias de rendimiento significativas con un rendimiento máximo de 3,4 a 6,8 veces mayor y un rendimiento máximo teórico FP8 de 2,6 PFLOP/s".

Lanzada la última generación de APU Instinct MI300A

La arquitectura CDNA 3 también está en el corazón de la APU (unidad de procesamiento acelerado) Instinct MI300A presentada junto con los aceleradores MI300X. La última generación de unidades de procesamiento acelerado de AMD combina CPU y GPU con memoria compartida para permitir una mayor eficiencia, flexibilidad y programación según el proveedor. "Están diseñados para acelerar la convergencia de la IA y la HPC, ayudando así a avanzar en la investigación e impulsar nuevos descubrimientos", afirma el proveedor.

Para respaldar la adopción de estos últimos aceleradores MI300X, AMD también destacó a varios socios durante su evento. Es el caso de Microsoft, que ha indicado que las ha desplegado en sus últimas instancias en la nube de máquinas virtuales Azure ND MI300x V5 optimizadas para cargas de trabajo de IA, o incluso Oracle, que pretende desplegarlas en algunas de sus soluciones barebones de servidor. . metal. La misma historia con Meta, que agregará varios miles de aceleradores MI300X en sus centros de datos pero también utilizará ROCm 6, que proporciona funciones optimizadas para LLM. Trabajando junto con los chips AMD, esta pila de software admite nuevos tipos de datos y proporciona todo tipo de optimización (kernel, bibliotecas, algoritmos, etc.). Meta explicó que pudo ofrecer un rendimiento ocho veces mejor en términos de latencia general para tareas de generación de texto basadas en su LLM Llama 2 en comparación con ROCm 5 basado en GPU más antiguas.

Ryzen 8040 revelados

AMD no sólo presentó sus últimos avances tecnológicos para empresas. El público en general también recibió el anuncio de la última serie de chips para portátiles Ryzen 8040. Ofrecida en varias configuraciones OEM (Acer, Asus, Dell, HP, Lenovo y Razer) durante el primer trimestre de 2024, esta última generación de CPU se distingue en 9 modelos, incluido el Ryzen 3 8440U básico equipado con 4 núcleos/8 hilos. , con frecuencia de 3 GHz (4,7 GHz en turbo), equipado con 12 MB de caché, una envolvente térmica de 28 W y sin unidad de procesamiento neuronal (NPU). En lo más alto de la cesta encontramos el Ryzen 9 8945HS con características naturalmente superiores: 8 núcleos/16 hilos, frecuencia de 4 GHz (turbo a 5,2 GHz), 24 MB de caché, un TDP de 45 W y la presencia de una NPU .

"Los procesadores Ryzen 8040 están listos para aprovechar toda la gama del ecosistema de Windows 11 para un rendimiento optimizado, incluida la compatibilidad total con las funciones de seguridad de Windows 11", explica fabless. “Algunos sistemas con un procesador Ryzen 8040 también pueden acceder a IA lista para usar con Window Studio Effects Pack, lo que ayuda a mantener la privacidad en casa o mientras viaja con fondo borroso, seguimiento ocular y cancelación de ruido.