Elon Musk a parlé de la formation de son chatbot Grok 3 AI de nouvelle génération, affirmant que cela nécessiterait 100 000 GPU NVIDIA H100 AI insensés.
2VOIR LA GALERIE – 2 IMAGES
Advertisement
Lors d'une récente discussion sur les espaces X, le patron de SpaceX et de Tesla a déclaré que Grok 2 utilisait environ 20 000 GPU NVIDIA H100 AI pour s'entraîner, mais que la nouvelle formation Grok 3 nécessiterait un monstre de 100 000 GPU NVIDIA H100 AI séparés, une quantité gigantesque de puissance de calcul IA. .
Musk a déclaré que le prochain modèle Grok et au-delà nécessiteront 100 000 GPU NVIDIA H100 AI, nous pouvons donc nous attendre à ce que Grok 4 nécessite une quantité inimaginable de puissance de calcul GPU AI. NVIDIA a maintenant annoncé son nouveau GPU Blackwell B200 AI, que, j'en suis sûr, Elon avait l'intention de surveiller… qui sera commercialisé plus tard cette année et inondera le marché en 2025 avec des performances GPU AI en force brute.
Plus tôt cette année, Tesla a annoncé qu'elle enverrait des milliards de dollars pour acheter des GPU NVIDIA AI et des GPU AMD AI, de sorte que ces chiffres changeront radicalement tout au long de l'année à mesure que Tesla récupère davantage de silicium IA de NVIDIA. Le récent investissement de 500 millions de dollars dans le superordinateur Dojo est « seulement équivalent » à 10 000 GPU NVIDIA H100 AI, a déclaré Musk en janvier 2024, ajoutant : «Tesla dépensera plus que cela en matériel NVIDIA cette année. Les enjeux pour être compétitif dans le domaine de l’IA s’élèvent actuellement à au moins plusieurs milliards de dollars par an.« .