NVIDIA wydała pokaźną kwotę 10 miliardów dolarów na prace badawczo-rozwojowe nad architekturą procesorów graficznych Blackwell nowej generacji, ale legenda chipów Jim Keller powiedział, że mógłby wykonać to samo zadanie za zaledwie 1 miliard dolarów.
Po raz pierwszy zobaczyłem tweet Kellera i zauważyłem, że wygląda znajomo… zrobił zdjęcie historii, którą napisałem o tym, że NVIDIA wydała 10 miliardów dolarów na badania i rozwój dla Blackwell. Świetnie to widzieć, ale w jaki sposób Keller ustala budżet firmy NVIDIA na badania i rozwój wynoszący 10 miliardów dolarów za jedną dziesiątą tych kosztów, czyli zaledwie 1 miliard dolarów?
Advertisement
Po pierwsze, NVIDIA wykorzystuje podwójne kości Blackwell B100 w swoim nowym procesorze graficznym B200 AI, który ma aż 208 miliardów tranzystorów, a każda karta graficzna B100 zawiera 104 miliardy tranzystorów. NVIDIA wykorzystuje dwie kości B100, aby w całości stworzyć B200, przy czym NVIDIA korzysta z własnego interfejsu NV-High Bandwidth Interface (NV_HBI), który zapewnia przepustowość do 10 TB/s.
Keller twierdzi, że sieć Ethernet mogłaby rozwiązać ten ogromny wysiłek badawczo-rozwojowy o wartości 10 miliardów dolarów w Blackwell, gdzie zamiast korzystać z interfejsu NV-High Bandwidth Interface, zamiast niego działałby Ethernet. Od tego momentu NVIDIA korzysta z technologii NVLINK piątej generacji, która jest zastrzeżona – opracowana przez firmę NVIDIA – więc mimo ogromnej przepustowości, opóźnień i skalowalności jest produktem zastrzeżonym i nie współpracuje ze sprzętem innych producentów.
NVLINK może i jest superszybki, ale ma swoje granice: świetnie współpracuje ze sprzętem NVIDIA i nie działa z niczym innym. Jim Keller wkracza w stronę otwartego oprogramowania, więc może to być wskazówka dotycząca korzystania w przyszłości z Ultra Ethernetu – nowego standardu, który ma zaspokoić wymagania dotyczące dużej przepustowości i niskich opóźnień rozwiązań opartych na sieci Ethernet dla sztucznej inteligencji i systemy HPC korzystające w przyszłości z Ultra Ethernetu.