SambaNova recauda 676 millones de dólares para financiar su plataforma de inteligencia artificial

En el mundo de los semiconductores, el sector de los aceleradores orientados a la IA está experimentando una fuerte actividad con las unidades de procesamiento de redes neuronales (NNPU), FPGA (Field Programmable Gate Arrays), circuitos integrados de aplicaciones específicas (ASIC). Y en los últimos meses, la competencia ha crecido en torno a los aceleradores de inferencia en lugar de los aceleradores de aprendizaje automático. La IA implica hacer inferencias miles o millones de veces cada vez que se realiza un entrenamiento. Muy prometedora en esta área, la start-up SambaNova Systems anuncia una cuarta ronda de financiación (serie D) de 676 millones de dólares para financiar el desarrollo de su chip Cardinal dedicado a la IA para acelerar las operaciones de formación y entrenamiento. inferencia (Graph, PyTorch y TensorFlow). La recaudación de fondos fue dirigida por SoftBank Vision Fund 2 con otros dos inversores, Temasek y GIC. Se unen a los inversores existentes BlackRock, Intel Capital, Google Ventures, Walden International y WRVI. En total, la puesta en marcha recaudó $ 1 mil millones para una valoración estimada de $ 5 mil millones.

SambaNova fue fundada en 2017 por Rodrigo Liang (ex Oracle) con el apoyo de dos profesores de Stanford, Kunle Olukotun (uno de los pioneros del procesador multinúcleo) y Chris Ré (ganador del Premio MacArthur). Esta start-up ha desarrollado una plataforma dedicada a la IA llamada DataScale SN10-8R basada en un servidor x86 basado en AMD Epyc con 12 TB de DDR4-3200, compatible con ocho aceleradores internos Cardinal SN10 conectados entre sí a través de un conmutador dedicado (como un NVSwitch o un NVLink en Nvidia). La base de datos está animada por una distribución de Linux asociada con el software SambaNovaFlow. Las actualizaciones están planificadas con nodos con 16 y 32 RDU. Grabado en 7 nm en TSMC, el Cardinal SN10 tiene capacidad para casi 40 mil millones de transistores en una caja de 708 mm2. Es muy grande. El chip concentra unidades reconfigurables (RDU para unidades de flujo de datos reconfigurables) que optimizan el flujo de datos para garantizar un ancho de banda óptimo y acelerar el cálculo. Si una carga de trabajo necesita más memoria, el circuito se adapta, casi como un FPGA / ASIC estructurado, pero con mucho más rendimiento y eficiencia según SambaNova. Este último tiene su propio compilador y optimizador de gráficos, lo que permite a los clientes que actualmente usan PyTorch o TensorFlow recompilar sus cargas de trabajo para la plataforma Cardinal.

El servidor DataScale está disponible en rack cuarto, medio y completo con enlaces de 100 GbE. (Crédito SambaNova)

Una oferta en modo como servicio

La empresa emergente no es la primera en interesarse en estos temas de innovaciones en inteligencia artificial en el borde y en la nube, análisis de imágenes y videos, o simplemente computación de alto rendimiento que brindan a las empresas medios adicionales para ver, comprender y tomar decisiones. de nuevas formas para hacer frente a los crecientes desafíos. Otros brotes jóvenes están trabajando en estos mismos conceptos, a saber, EdgeQ, Alibaba con su circuito Xuantie 910, Google con un NNPU especial de Tensor Flow, pero también Graphcore (que recaudó $ 222 millones en diciembre pasado), Nuvia, Cerebras o Cambricon en China que fue flotó con éxito en la bolsa de valores el pasado mes de julio. E incluso Nvidia con su reciente anuncio de Grace basado en ARM Neoverse. Pero la solución DataScale SN10-8R de SambaNova es un competidor directo del sistema DGX-A100 de Nvidia. La puesta en marcha indica que su dispositivo promete un mayor rendimiento que las configuraciones que combinan CPU / GPU para modelos de algoritmos basados ​​en PyTorch o TensorFlow. Un punto para verificar con herramientas como MLCommons o Machine Learning Benchmark Suite de EEMBC. Tenga en cuenta que SambaNova es uno de los miembros fundadores de MLCommons (ex MLPerf).

Las principales herramientas de aprendizaje automático son compatibles con SambaNova.

Recientemente, la start-up propuso la oferta de Dataflow as a Service (DFaaS) que permite a las empresas centrarse en su modelo de IA sin preocuparse por la parte técnica. Una oferta por suscripción centrada principalmente en el procesamiento del lenguaje natural, motores de recomendación y análisis de imágenes de alta resolución (salud o astronomía). Con esta última financiación, NovaSamba quiere acelerar la comercialización de esta oferta.