Les nouveaux serveurs IA montés en rack GB200 de NVIDIA rencontrent toujours des problèmes, avec un nouveau rapport suggérant que la chaîne d'approvisionnement nécessite plus de temps pour l'optimisation et l'ajustement, et qu'elle pourrait voir la production de masse et les expéditions de pointe retardées jusqu'au deuxième ou même au troisième trimestre 2025.
Dans un nouveau rapport de TrendForce, leur dernier rapport indique que la chaîne d'approvisionnement a besoin de plus de temps pour les serveurs rack GB200, et que cela est principalement dû aux spécifications de conception plus élevées du rack GB200, y compris ses exigences en matière d'interfaces d'interconnexion à haut débit et thermiques. puissance de conception (TDP), qui « dépasse largement les normes du marché ».
TrendForce prévoit désormais que la production de masse et les expéditions maximales de serveurs rack NVIDIA GB200 « ne se produiront probablement pas avant le deuxième et le troisième trimestre 2025 ». La série de racks NVIDIA GB comprend les modèles GB200 et les nouveaux modèles GB300, qui présentent une technologie encore plus complexe et des coûts de production plus élevés.
Le nouveau serveur IA GB200 NVL72 de NVIDIA devrait devenir « le modèle le plus largement adopté en 2025 », ce qui représentera potentiellement jusqu'à 80 % du total des déploiements alors que NVIDIA renforce sa présence sur le marché avec le GB200. Le problème d'interconnexion à haut débit provient de la connectivité NVLink interne de NVIDIA (la connexion à haut débit entre les GPU) avec le GB200 utilisant NVLink de cinquième génération et offre une bande passante totale nettement supérieure à la norme industrielle actuelle de PCIe 5.0.
TrendForce note que le TDP du serveur HGX AI dominant en 2024 varie généralement entre 60 kW et 80 kW par rack, mais que le nouveau serveur GB200 NVL72 AI peut atteindre une puissance insensée de 140 kW par rack, ce qui est presque le double de la demande d'énergie par rapport aux racks actuels. Les CSP (fournisseurs de services cloud) favorisent l'adoption de solutions de refroidissement par liquide plutôt que de solutions de refroidissement par air, car le refroidissement par air n'est plus suffisant pour les charges thermiques plus élevées.