Electronique Mag - Le journal de l'électronique.

Arrow Electronics a joué un rôle central dans le développement de la toute première unité de traitement adressable par réseau en 7 nm (NR1 NAPU™) intégrée dans l’unité NR1-S™ AI Inference Appliance complet de NeuReality, offrant désormais des avantages concurrentiels en matière de coûts et d’économies d’énergie par rapport à l’architecture traditionnelle centrée sur le processeur.

Selon NeuReality, lorsqu’il est associé à des accélérateurs d’IA dans un serveur d’inférence IA, le NR1-S réduit les coûts des centres de données de 90 % et augmente 15 fois l’efficacité énergétique, tout en offrant une évolutivité linéaire sans perte de performance ni délai lors de l’ajout d’accélérateurs d’IA supplémentaires.

Les experts d’Arrow, qui ont apporté au projet leurs compétences étendues en matière de conception intégrée, ont fourni des conseils en matière de conception de firmware et de matériel, et ont développé et validé des micrologiciels de gestion de l’énergie. Arrow a également pris en charge le débogage du microcontrôleur (MCU) et les flux d’énergie de la plate-forme pour soutenir la mise en place réussie de la NAPU, du NR1-S et du logiciel NeuReality intégré, le tout en un temps record.

L’équipe d’Arrow a également contribué à sélectionner le microcontrôleur le plus approprié pour fournir l’interface entre les composants du système de la carte PCIe et du serveur. Le NR1 NAPU est un serveur sur puce personnalisé qui fournit l’intégralité des performances de chaque accélérateur d’IA dédié, d’environ 30 % aujourd’hui, jusqu’à 100 % lors de sa pleine utilisation, ce qui améliore le rendement total et réduit les pertes de silicium. La NAPU ne se contente pas de migrer des services tels que la terminaison du réseau, la qualité de service et les pré- et post-traitements des données d’IA, mais elle améliore également le flux de données pour le volume élevé et la variété des pipelines d’IA.

L’architecture du système NeuReality élimine le goulot d’étranglement des performances causé par l’architecture traditionnelle centrée sur le processeur, sur laquelle s’appuient aujourd’hui tous les systèmes d’inférence de l’IA et les fabricants de matériel. Par conséquent, le NR1- S améliore les coûts et l’efficacité énergétique lors de l’exécution de pipelines d’importants volumes de données d’IA et de grande variété : une préoccupation financière de premier ordre dans le déploiement des applications d’IA conventionnelles et génératives d’aujourd’hui, gourmandes en énergie.

« Notre NAPU s’attaque aux principaux goulets d’étranglement qui limitent les performances des accélérateurs d’IA actuels, tels que la gestion de l’alimentation et le transfert des données du réseau vers l’accélérateur d’IA, généralement un GPU, un FPGA ou un ASIC », a déclaré Eli Bar-Lev, director of hardware chez NeuReality. « Le soutien d’Arrow au niveau du matériel et du micrologiciel pour la gestion de l’énergie et de l’ingénierie thermique nous a permis de concentrer nos ressources sur une solution d’Inférence IA complète, allant du silicium jusqu’au logiciel, réduisant les obstacles au marché de l’IA pour les gouvernements et les entreprises du monde entier ».

« Ce projet passionnant peut potentiellement rendre l’inférence IA d’entreprise dans le cloud et sur site plus abordable et plus rapide, et ainsi accroître l’accès à des services précieux dans le domaine des soins de santé et de l’imagerie médicale, de la banque et de l’assurance, ainsi que des centres d’appels clients et des assistants virtuels pilotés par l’IA », a déclaré Vitali Damasevich, Directeur de l’ingénierie pour l’Europe de l’Est et du centre de solutions d’ingénierie pour la zone EMEA.

https://www.arrow.com/