NEO Semiconductor vient de dévoiler le développement de sa nouvelle technologie de puce 3D X-AI, qui vise à remplacer les puces DRAM à l'intérieur des HBM pour résoudre les goulots d'étranglement des bus de données, en permettant le traitement de l'IA via la DRAM 3D.
2VOIR LA GALERIE – 2 IMAGES
La nouvelle technologie de puce 3D X-AI peut réduire l'énorme quantité de données transférées entre HBM et les GPU pendant les charges de travail d'IA, avec la nouvelle technologie de puce 3D X-AI innovante de NEO destinée à « révolutionner les performances, la consommation d'énergie et le coût des puces d'IA pour les applications d'IA comme l'IA générative ».
La nouvelle technologie de puce 3D X-AI de NEO offre des performances 100 fois supérieures avec 8 000 circuits neuronaux pour effectuer le traitement de l'IA dans la mémoire 3D, une énorme réduction de puissance de 99 % qui minimise le besoin de transfert de données vers le GPU pour le calcul, réduisant la consommation d'énergie et la génération de chaleur par le bus de données, et une densité de mémoire 8 fois supérieure avec 300 couches de mémoire, permettant à HBM de stocker des modèles d'IA plus volumineux.
Une seule puce 3D X-AI comporte 300 couches de cellules DRAM 3D d'une capacité de 128 Go et une couche de circuit neuronal avec 8 000 neurones. NEO estime que sa nouvelle puce peut prendre en charge jusqu'à 10 To/s de débit de traitement IA par puce, tandis que l'utilisation de 12 puces 3D X-AI empilées avec un boîtier HBM peut atteindre un débit de traitement de 120 To/s, ce qui représente une augmentation de performances ahurissante de 100 fois.
Andy Hsu, fondateur et PDG de NEO Semiconductor, a déclaré : «Les puces d'IA actuelles gaspillent des quantités importantes de performances et d'énergie en raison d'inefficacités architecturales et technologiques. L'architecture actuelle des puces d'IA stocke les données dans HBM et s'appuie sur un GPU pour effectuer tous les calculs. Cette architecture de stockage et de traitement des données séparée fait du bus de données un goulot d'étranglement inévitable des performances. Le transfert d'énormes quantités de données via le bus de données entraîne des performances limitées et une consommation d'énergie très élevée. 3D X-AI peut effectuer le traitement de l'IA dans chaque puce HBM. Cela peut réduire considérablement les données transférées entre HBM et GPU pour améliorer les performances et réduire considérablement la consommation d'énergie« .
Jay Kramer, président de Network Storage Advisors, a déclaré : «L'application de la technologie 3D X-AI peut accélérer le développement de nouveaux cas d'utilisation de l'IA et promouvoir la création de nouveaux cas« .