Pruebas de MLPerf 3.0 para la GPU Hopper 100 de Nvidia

Dado que los sistemas de inteligencia artificial y aprendizaje automático funcionan con conjuntos de datos de miles de millones de entradas, las velocidades y los flujos se han vuelto más importantes que nunca. Publicación de resultados de rendimiento de Nvidia para su acelerador de GPU Hopper H100 en MLPerf 3.0, un punto de referencia líder para cargas de trabajo de aprendizaje profundo. Como era de esperar, Hopper superó a su predecesor A100 Ampere en tiempos de entrenamiento de IA y su rendimiento también mejoró gracias a las optimizaciones de software.

MLPerf ejecuta miles de modelos y cargas de trabajo para simular el uso en el mundo real. Estas cargas de trabajo incluyen clasificación de imágenes (ResNet 50 v1.5), procesamiento de lenguaje natural (BERT Large), reconocimiento de voz (RNN-T), imágenes médicas (3D U-Net), detección (RetinaNet) y recomendación (Modelo de recomendación de aprendizaje profundo, DLRM). Nvidia publicó por primera vez los resultados de la prueba del H100 utilizando el punto de referencia de inferencia MLPerf 2.1 en septiembre de 2022. Estos resultados mostraron que el chip H100 era 4,5 veces más rápido que el A100 al ejecutar diferentes cargas de trabajo de inferencia. En comparación con MLPerf 2.1, la GPU H100 de Nvidia muestra mejoras que van del 7 % al 54 % con la versión MLPerf 3.0.

El diseñador también informó que el modelo de imágenes médicas fue un 30 % más rápido con MLPerf 3.0. Cabe señalar que Nvidia realizó estas pruebas y no un tercero independiente. Pero no es el único proveedor que lo hace. Docenas de otros, incluido Intel, han realizado sus propias pruebas y también deberían ver mejoras en el rendimiento.