Meta a acheté 500 000 GPU AI supplémentaires pour un total de 1 million de GPU AI, évalués à 30 milliards de dollars.
VOIR LA GALERIE – 2 IMAGES
Advertisement
Yann LeCun, le patron de Meta AI, nous a parlé de l'investissement gargantuesque en matériel GPU AI lors du AI Summit, affirmant également que des variantes à venir de son grand modèle de langage Llama 3 sont en route. LeCun a souligné les limitations de calcul et les coûts des GPU comme des éléments qui ralentissent la progression de l'IA.
Le PDG d'OpenAI, Sam Altman, prévoit de dépenser 50 milliards de dollars par an pour le développement de l'AGI (intelligence générale artificielle) en utilisant 720 000 GPU NVIDIA H100 AI, qui coûtent 21,6 milliards de dollars. Microsoft vise 1,8 million de GPU IA d’ici fin 2024, tandis qu’OpenAI souhaite disposer de 10 millions de GPU IA avant la fin de l’année.
Yann LeCun, le patron de Meta AI, a souligné la nécessité de faire évoluer efficacement les algorithmes d'apprentissage sur les GPU pour réduire les coûts, alors que NVIDIA va de l'avant avec les GPU AI Hopper H200 et Blackwell B200, ainsi que les GPU AI de nouvelle génération en développement qui prendront en charge au-delà de l'ultra- mémoire HBM4 rapide, que nous commencerons à voir en 2025, ce qui n'est pas loin maintenant.