Le gigantesque supercalculateur Colossus AI d'Elon Musk, issu de sa startup xAI, est alimenté par 100 000 GPU NVIDIA H100 AI et vient de faire l'objet d'une superbe visite guidée par nos amis de ServeTheHome. Vérifiez-le:
Patrick de ServeTheHome note que la réussite technique d'Elon et de son équipe chez xAI est « absolument incroyable« . xAI n'a pris que 122 jours pour construire le supercalculateur Colossus AI alimenté par GPU NVIDIA H100 AI, ce qui prend normalement de nombreuses années… mais pas pour Elon et xAI, c'est pourquoi le PDG de NVIDIA, Jensen Huang, a récemment appelé SpaceX. et le patron de Tesla « surhumain ». Plus d'informations ci-dessous :
Revenons au supercluster xAI, STH notant que l'élément de base de Colossus est le rack Supermicro refroidi par liquide, qui comprend 8 serveurs 4U chacun avec 8 x GPU NVIDIA H100 AI pour un total de 64 x GPU H100 AI par rack. 8 de ces serveurs GPU + Supermicro Coolant Distribution Unit (CDU) et le matériel requis constituent l'un de ces racks de calcul GPU.
Les racks sont disposés en groupes de 8 pour un total de 512 GPU AI (64 x 8) + mise en réseau pour créer des mini clusters au sein d'un système beaucoup plus grand.
VOIR LA GALERIE – 4 IMAGES
Dans l'image ci-dessus, nous avons xAI utilisant le système GPU universel Supermicro 4U, qui, selon ServeTheHome, est « les serveurs d'IA les plus avancés du marché à l'heure actuelle, pour plusieurs raisons ». L'une de ces raisons est le degré de refroidissement du liquide, l'autre est leur facilité d'entretien, ajoute STH.
STH a expliqué dans sa description YouTube : « Nous pouvons ENFIN montrer le plus grand supercalculateur d'IA au monde, xAI Colossus. Il s'agit du cluster de 100 000 GPU (au moment où nous avons filmé ceci) à Memphis Tennessee qui a beaucoup fait l'actualité. Cette vidéo a duré cinq mois et finalement, Elon Musk nous a donné le feu vert non seulement pour filmer, mais aussi pour montrer à tout le monde le côté Supermicro du cluster.« .
« Cette vidéo est sponsorisée par Supermicro et c'est pourquoi nous montrons uniquement le côté Supermicro, qui est le côté le plus avancé. Contrairement à notre création de contenu habituelle, cette vidéo a dû être revue par Elon et son équipe avant d'être mise en ligne et on nous a demandé d'en brouiller certaines parties à leur demande.« .