NeuReality annonce un appareil d'IA à économie d'énergie

« Les systèmes construits avec des processeurs ne peuvent tout simplement pas prendre en charge et adapter le nombre d'accélérateurs qui y sont installés », a-t-il déclaré. « Le processeur devient une machine à déplacer des données, et malheureusement, les processeurs ont été conçus pour effectuer des calculs, et non pour déplacer une tonne de données dans les deux sens. Il existe un certain nombre de raisons pour lesquelles l'architecture du processeur devient un goulot d'étranglement. »

L'appareil prend le relais du processeur, améliorant considérablement le débit et l'évolutivité des GPU. Cela permet aux GPU de fonctionner beaucoup plus rapidement et avec une plus grande utilisation qu'avec les processeurs. Associé à l'AI 100 Ultra de Qualcomm, le NR1-S permet de réaliser jusqu'à 90 % d'économies sur différents types de données d'IA, telles que les images, l'audio et le texte. Outre les économies réalisées, le NR1-S affiche une efficacité énergétique jusqu'à 15 fois supérieure à celle des systèmes traditionnels centrés sur le processeur. Contrairement aux systèmes traditionnels centrés sur le processeur, le NR1-S peut garantir une utilisation à 100 % des accélérateurs d'IA intégrés sans baisse de performances ni retards observés dans les systèmes actuels dépendants du processeur, affirme le fournisseur.

Les tests ont également mesuré la consommation d’énergie pour le traitement audio par watt. Lors d’un test de conversion de la voix en texte, le NR1-S a pu convertir sept secondes d’audio en utilisant la même quantité d’énergie que 0,7 seconde dans les systèmes traditionnels centrés sur le processeur. Selon NeuReality, cela se traduit par une multiplication par dix des performances par rapport à l’énergie utilisée. Un autre test audio a montré que le NR1-S réduisait le coût de traitement d’un million de secondes audio de 43 cents à seulement 5 cents.