Les différents fournisseurs de systèmes et de pièces de serveurs d'IA basés à Taiwan de NVIDIA (armoires, assemblages, composants de refroidissement liquide, etc.) s'attendent à ce que les commandes de serveurs d'IA GB200 NVL36 commencent à la mi-septembre, les armoires de serveurs d'IA GB200 NVL72 haut de gamme étant attendues dans la seconde moitié d'octobre.
VOIR LA GALERIE – 2 IMAGES
Dans un nouveau rapport de Ctee, nous apprenons que le « marché croit généralement » que les commandes de serveurs IA GB200 seront « lancées comme prévu » avec les armoires de serveurs IA NVL36 et NVL72 respectivement à la mi-septembre et à la fin octobre. Le GB200 est crucial pour NVIDIA, car il est prévu que sur les 5 millions de puces Blackwell qui seront produites en 2025, environ 80 % d'entre elles seront utilisées dans le GB200.
Chacun des GPU IA GB200 coûte environ 30 000 $ chacun, le Superchip GB200 (CPU + GPU) coûtant plus de 70 000 $. Le nouveau boîtier de serveur IA NVL72 de NVIDIA coûte environ 3 millions de dollars par serveur IA, rempli de 72 GPU B200 et de 36 CPU Grace. Le boîtier de serveur IA NVL36 comprend 36 GPU B200 AI et 16 CPU Grace.
Les nouveaux serveurs d'IA GB200 de NVIDIA s'orientent vers le refroidissement liquide, ce qui augmente les coûts et la complexité de ces serveurs d'IA déjà complexes. Taïwan est la base de production de NVIDIA, les entreprises taïwanaises se bousculant pour répondre à la demande d'IA de NVIDIA, avec des problèmes de fuite de refroidissement liquide au cours des deux derniers mois qui ont conduit à l'expédition des GB200.
La demande de serveurs d’IA est plus forte que jamais, et les expéditions en volume devraient augmenter en janvier 2025.