La société mère de TikTok, ByteDance, développe non pas un, mais deux nouveaux GPU IA qui seraient fabriqués sur un nœud de processus TSMC 5 nm et entreront en production de masse en 2026.
VOIR LA GALERIE – 2 IMAGES
Les informations proviennent de The Information, où selon leurs sources, ByteDance va réduire sa dépendance à NVIDIA pour son matériel d'IA, tout en restant dans le respect des réglementations américaines en matière d'exportation. Les nouveaux GPU IA de ByteDance sont en phase de conception, l'un d'entre eux étant destiné à la formation de l'IA et l'autre à l'inférence de l'IA.
Les nouveaux GPU IA de ByteDance seraient fabriqués sur des nœuds de processus TSMC 4N/5N, similaires au nœud de processus 4NP que TSMC utilise pour fabriquer les nouveaux GPU IA Blackwell de NVIDIA. La société mère de TikTok aurait dépensé plus de 2 milliards de dollars pour acheter plus de 200 000 GPU IA NVIDIA H20 (qui coûtent environ 10 000 dollars par GPU IA H20) rien que cette année, de nombreux GPU IA n'étant pas encore livrés par NVIDIA.
La pénurie de GPU IA NVIDIA et leurs prix plus élevés sont quelques-unes des raisons pour lesquelles ByteDance a décidé de fabriquer son propre matériel d'IA, même si NVIDIA a peaufiné le DGX H20 et d'autres GPU IA spécifiquement pour le marché chinois, après que les contrôles à l'exportation américains ont continué à se resserrer.
Le GPU DGX H20 AI de NVIDIA ne présente que 296 INT8/FP8 TOPS/TFLOPS et 148 BF16/FP16 TFLOPS pour les calculs d'IA, tandis que le GPU H100 AI complet présente 3 958 INT8/FP8 TOPS/TFLOPS ainsi que 1 979 BF16/FP16 TFLOPS pour l'IA… soit plus de 10 fois les performances.
Mais, le DGX H20 dispose de 96 Go de mémoire HBM3 avec jusqu'à 4,0 To/s de bande passante mémoire et un support GPU 8 voies, c'est donc une offre GPU AI populaire en Chine… mais ByteDance veut plus de performances, et ne plus avoir à traiter avec NVIDIA, semble-t-il (même après avoir dépensé des milliards en matériel NVIDIA AI).
Cependant, ByteDance pourrait développer son propre matériel d'IA, mais pour l'instant, il dépend de NVIDIA CUDA et de la pile logicielle de support pour son entraînement et son inférence d'IA. ByteDance devra construire sa propre plateforme logicielle et une pile logicielle fonctionnelle entièrement compatible avec son tout nouveau matériel.