Red Hat a annoncé son intention d'acquérir Neural Magic, une société spécialisée dans l'ingénierie des performances de l'IA générative, les algorithmes d'optimisation de modèles et le service d'inférence GPU et CPU hautes performances.
Neural Magic est issu du MIT en 2018 et propose des logiciels et des algorithmes qui accélèrent les charges de travail d'inférence d'IA générative. Son expertise dans les grands modèles de langage ainsi que la capacité de Red Hat à prendre en charge ces modèles dans le cloud hybride s'alignent sur l'objectif déclaré de Red Hat de rendre la génération IA plus accessible à un plus grand nombre d'organisations.
Red Hat a l'intention de démocratiser la puissance de l'IA grâce à des modèles sous licence open source pouvant fonctionner n'importe où. Cela améliorera la capacité des organisations à personnaliser de grands modèles de langage, à utiliser l'ingénierie des performances d'inférence pour l'efficacité de l'infrastructure et à s'associer à l'écosystème open source pour permettre des choix plus larges en matière d'architecture matérielle et de puces.



GIPHY App Key not set. Please check settings