Está completado. Sombrero rojo ha adquirido definitivamente la magia neural. La operación se anunció el 12 de noviembre. sin especificar la cantidad. Lanzó el MIT en 2018, la nueva empresa de magia neural se especializa en ingeniería generativa de rendimiento de IA, algoritmos de optimización de modelos y servicios de inferencia de GPU y CPU de alto rendimiento.

La oferta principal de Neuro Magic gira en torno al tiempo de ejecución del modelo VLLM, una biblioteca de origen popular abierta diseñada para una memoria de alta velocidad y efectiva frente a la ejecución de Open Source LLM. Tenga en cuenta que VLLM se usa de forma predeterminada en RHEL AI y OpenShift AI de Red Hat y también es compatible en varios tipos de entornos materiales (GPU AMD, Google TPU, Aceleradores Intel Gaudi, GPU Nvidia y CPU X86), pero también software como el AWS Neuron Inference SDK.

LLM Democratización y personalización

Con esta adquisición, Red Hat quiere democratizar el poder de la IA gracias a los modelos de licencia de origen abierto que pueden trabajar en cualquier lugar. Las empresas podrán personalizar modelos de idiomas grandes, utilizar la ingeniería del rendimiento de la inferencia para mejorar la eficiencia de la infraestructura y asociarse con la comunidad Libre para expandir las opciones en términos de equipos y arquitectura de pulgas.

"Las cargas de trabajo de la IA deben ejecutarse donde se encuentren los datos del cliente en la nube híbrida que realicen las plataformas y las plataformas flexibles, estandarizadas y abiertas, para que las empresas puedan seleccionar los entornos, los recursos y las arquitecturas que mejor se alinean en sus necesidades de datos operativas y únicas", dijo Matt Hicks, presidente y CEO de Red Hat.