Sombrero rojo anunciado Este 12 de noviembre ha firmado un acuerdo final para la adquisición de la magia neural. Con sede en Somerville (Massachusetts), esta nueva empresa creada en 2018 por el profesor Nir Shavit y el investigador Alex Matveev del MIT ofrece software y algoritmos para optimizar los modelos de IA y los servicios de inferencia de GPU y CPU de alto rendimiento que aceleran las cargas de trabajo de inferencia de Genai. "La tecnología de magia neural enriquece la cartera de tecnología de IA de Sombrero rojo Y nos permite extender un Genai más eficiente y listo para la nube híbrida ”, dijo el proveedor en su comunicado de prensa.

La oferta principal de Neura Magic gira en torno al tiempo de ejecución del modelo VLLM, una biblioteca de origen popular abierta diseñada para una memoria de alta velocidad y efectiva utilizada para la ejecución de LLM Open Source, explica Red Hat En una publicación de blog complementaria. Desarrollados por investigadores de la Universidad de Berkeley (California), VLLM se usa de forma predeterminada en RHEL AI y OpenShift AI de Red Hat y también es compatible con varios tipos de entornos materiales (AMD GPU, Google TPU, Intel Gaudi, Nvidia y CPU X86 Accperators), pero también software como AWS Neuron. "Red Hat ya está involucrado en la comunidad VLLM Upstream y utiliza tecnología para la inferencia de modelos en Red Hat Enterprise Linux AI (RHEL AI) y Red Hat Openenshift Ai. El hecho de unirnos a través de esta adquisición nos ayudará a pasar estos esfuerzos a mayor escala", dijo el editor del sombrero rojo.

Facilitar la generalización de la IA

"La magia neuronal se basó en la convicción de que AI debería poder operar en todas partes, desde los terminales más pequeños hasta los centros de datos más grandes [...] La chispa de la magia neuronal se activó cuando Nir y Alex reconocieron un cuello de estrangulamiento crítico en el avance de la IA: dependencia de las GPU caras y a menudo raras. Esta dependencia ha creado una barrera de entrada, obstaculizando la adopción general de IA en diversas industrias y limitando su potencial para revolucionar nuestra forma de vida y trabajo. "Dijo Matt Hicks, presidente y CEO de Red Hat En otra publicación de blog.

La experiencia de la magia neuronal en los principales modelos de idiomas, así como la capacidad de Red Hat para hacerse cargo de estos modelos en la nube híbrida, alinearse con el objetivo del editor de código abierto para que el Genai sea más accesible para un mayor número de empresas. Al confiar en esta adquisición, Red Hat tiene la intención de ayudar a las empresas a personalizar modelos de idiomas grandes, para utilizar la ingeniería del rendimiento de inferencia para mejorar la eficiencia de la infraestructura y asociarse con el ecosistema de código abierto para ampliar las opciones en términos de equipos y arquitectura de pulgada.