Micron échantillonne la mémoire SOCAMM2 de 192 Go la plus haute capacité du secteur pour les serveurs IA

Micron revendique les modules SOCAMM2 de la plus grande capacité de la planète avec son nouveau produit de 192 Go, qu’il a commencé à échantillonner auprès de ses clients. Selon Micron, « l’innovation et la croissance sans précédent de l’IA » alimentent le besoin de quantités croissantes de mémoire dans le centre de données, et son module SOCAMM2 basse consommation de 192 Go est optimisé pour les grands clusters de centres de données.

« À mesure que les charges de travail d’IA deviennent plus complexes et plus exigeantes, les serveurs des centres de données doivent atteindre une efficacité accrue, en fournissant plus de jetons pour chaque watt de puissance », a déclaré Raj Narasimhan, vice-président senior et directeur général de l’unité commerciale Cloud Memory de Micron. « Le leadership éprouvé de Micron en matière de DRAM basse consommation garantit que nos modules SOCAMM2 fournissent le débit de données, l’efficacité énergétique, la capacité et la qualité de classe centre de données essentiels pour alimenter la prochaine génération de serveurs de centre de données IA.

Par rapport à son produit LPDRAM SOCAMM de première génération, le nouveau module SOCAMM2 de 192 Go offre 50 % de capacité en plus dans le même faible encombrement pour réduire le délai d’obtention du premier jeton (TTFT) de plus de 80 % dans les charges de travail d’inférence en temps réel, explique Micron. Micron vante également une amélioration de 20 % de l’efficacité énergétique. Il est également basé sur le même processus DRAM 1-gamma avancé que Micron a utilisé sur certains produits DDR5 plus tôt cette année.

Bien que cela puisse sembler sans importance à première vue, Micron souligne que les économies d’énergie deviennent « assez importantes » à grande échelle, avec des installations d’IA en rack complet exploitant désormais plus de 40 téraoctets (To) de mémoire principale DRAM à faible consommation connectée au processeur.

Les produits SOCAMM2 ont un héritage en matière de DRAM basse consommation initialement conçue pour les téléphones mobiles (que Micron produit toujours). Pour arriver au point où cela devient réalisable pour les centres de données à grande échelle, Micron a déclaré avoir utilisé « des caractéristiques de conception spécialisées et des tests améliorés » pour transformer ces anciens produits de mémoire en solutions de classe centre de données. Micron affirme également que ses modules SOCAMM2 sont mieux adaptés aux centres de données que les RDIMM.

« SOCAMM2 améliore l’efficacité énergétique de plus de deux tiers par rapport aux RDIMM équivalents, tout en regroupant ses performances dans un module d’un tiers de la taille, optimisant ainsi l’encombrement du centre de données et maximisant la capacité et la bande passante. La conception modulaire de SOCAMM et la technologie d’empilage innovante améliorent la facilité d’entretien et facilitent la conception de serveurs refroidis par liquide », explique Micron.

Le Module de capacité 192 Go n’est pas le seul disponible, mais c’est le plus élevé. Micron affirme qu’il échantillonne désormais à des vitesses allant jusqu’à 9,6 Gbit/s.