Si vous pensiez que votre nouvelle plate-forme DDR5 de 192 Go était à la pointe de la technologie, il est temps de vous asseoir. Micron vient d’annoncer qu’il échantillonnait des modules RDIMM DDR5 de 256 Go poussant une vitesse fulgurante de 9 200 MT/s. Oui, il s’agit bien d’une seule barrette de mémoire contenant un quart de téraoctet de RAM tout en fonctionnant à des vitesses qui donnent l’impression que le matériel serveur de la génération actuelle marche dans la mélasse.
Les progrès massifs en termes de densité et de vitesse surviennent parce que l’IA a faim. Les grands modèles linguistiques (LLM), l’IA agentique et d’autres charges de travail d’inférence en temps réel demandent constamment plus de capacité de mémoire et de bande passante par socket CPU. Pour suivre le rythme, les hyperscalers ont besoin d’une mémoire qui non seulement stocke plus de données, mais les déplace également beaucoup plus rapidement. Selon Micron, ces nouveaux modules offrent un bond de performance considérable de 40 % par rapport aux modules de 6 400 MT/s qui régissent actuellement la production en volume dans les centres de données du monde entier.
Comment entasser 256 Go sur un format de mémoire de serveur standard sans faire fondre la carte mère ? Micron a atteint cette densité en utilisant bien sûr sa dernière technologie DRAM 1-gamma, mais la vraie magie réside dans le packaging avancé. Micron utilise l’empilement 3D, connectant plusieurs matrices de mémoire verticalement à l’aide de vias via silicium (TSV), tout comme avec HBM ou le V-Cache 3D d’AMD. Cela construit essentiellement de petits gratte-ciel de mémoire sur une seule empreinte, permettant une densité de données monstrueuse sans dépasser les limites dimensionnelles standard du serveur.
Il est intéressant de noter que ces modules ne semblent pas utiliser de pilotes d’horloge intégrés (CUDIMM), de multiplexage de rang (MRDIMM) ou de tout type de facteur de forme exotique (LPCAMM, SOCAMM). Pour autant que nous puissions en juger, il s’agit simplement de RDIMM DDR5 standard qui prennent en charge à la fois une densité massive et une vitesse furieuse. Ils le font sans consommer beaucoup d’énergie, ce qui est important, car dans le monde des serveurs, l’efficacité énergétique est tout aussi critique que la vitesse brute.
La mise à l’échelle de l’infrastructure d’IA signifie généralement que votre consommation d’électricité augmente également de façon exponentielle. Les nouveaux modules de Micron consomment plus d’énergie que les modules de 128 Go de la génération précédente, mais considérablement moins d’énergie par bit ; en remplaçant deux modules de 128 Go (avec une consommation combinée de 19,4 W par micron) par un seul module de 256 Go fonctionnant à seulement 11,1 W, les architectes de serveurs peuvent obtenir exactement la même capacité de mémoire tout en réduisant la puissance de fonctionnement de plus de 40 %. Pour les hyperscalers exécutant des dizaines ou des centaines de milliers de ces modules, ces économies d’énergie se traduisent par des millions de dollars par an et une gestion thermique considérablement améliorée.
Tout de suite, Micron expédie des échantillons de ces monstres de 9 200 MT/s aux partenaires clés de l’écosystème pour une co-validation sur les plates-formes de serveurs actuelles et de nouvelle génération. Attendez-vous à les voir alimenter la prochaine vague d’avancées en matière d’IA lorsqu’ils atteindront la production en volume plus tard cette année.