Les serveurs IA du futur devraient utiliser plus de 1 000 kW de puissance, avec l'arrivée du GPU Rubin Ultra AI de nouvelle génération de NVIDIA et de sa nouvelle mémoire HBM4, qui entraîneront une augmentation de la consommation électrique des serveurs IA.
Les meilleurs serveurs et clusters d'IA actuels avec une densité de rack de 130 kW à 250 kW de puissance selon un analyste de la société de centres de données Vertiv. Mais ces chiffres vont monter en flèche avec les serveurs Blackwell Ultra et Rubin AI utilisant entre 250 kW et 900 kW de puissance avec jusqu'à 576 GPU dans un seul rack attendus en 2026-2027.
Après cela, NVIDIA intégrera ses GPU Rubin Ultra AI de nouvelle génération renforcés à l'intérieur de nouveaux serveurs IA en 2028-2029+ qui utiliseront 1 000 kW ou plus. Vertiv note que « les feuilles de route de densification indiquent des densités de rack de pointe extrêmes de 1 mW+, ce qui entraîne une augmentation de la densité moyenne des racks dans les nouvelles constructions selon différentes charges de travail, applications et segments de marché ».
En remontant le temps il y a seulement 4 ans, en 2020, la densité moyenne des racks était évaluée à environ 8,2 kW, mais avec la demande insatiable de l'IA, cette consommation d'énergie a grimpé jusqu'à 132 kW avec le nouveau coffret IA GB200 NVL72 de NVIDIA, qui est le serveur le plus consommateur d'énergie de l'histoire.
Les GPU Rubin et Rubin Ultra AI de nouvelle génération de NVIDIA vont être très excitants, avec la nouvelle architecture GPU Rubin AI et la mémoire HBM4 de nouvelle génération, que vous pouvez en savoir plus ici.