Niezależnie od tego, czy jest to rzeczywistość organiczna, czy nie, firmy technologiczne jednostronnie zdecydowały, że generatywna sztuczna inteligencja to kolejna wielka rzecz, a dostawcy na każdym poziomie łańcucha dostaw inwestują miliardy dolarów w rozwój sprzętu i oprogramowania opartego na sztucznej inteligencji. Dotyczy to oczywiście firmy Intel, której dzisiejsza prezentacja podczas wydarzenia Intel Vision 2024 była w dużym stopniu skupiona na sztucznej inteligencji oraz sprzęcie i oprogramowaniu, które może zaoferować do jej obsługi.
Skupiamy się na sprzęcie w tych częściach — w końcu to jest w nazwie — więc nie będziemy szczegółowo omawiać oprogramowania, ale ogólna idea stojąca za podejściem firmy Intel do oprogramowania jest taka, że klienci mogą po prostu kupić wszystko, co Intel sprzęt odpowiada ich potrzebom, a warstwy pośrednie zajmą się wszystkim. Ale jaki sprzęt AI oferuje Intel? Przede wszystkim akceleratory AI Gaudi i procesory Xeon z rozszerzeniami zestawu instrukcji skupionymi na sztucznej inteligencji.
Advertisement
Intel wkrótce wprowadzi do oferty nowy sprzęt dla obu tych kategorii i ogłosił je podczas wydarzenia Vision. Gaudi 3 jest oczywiście następcą akceleratora AI Gaudi 2, a Intel twierdzi, że nadchodzący pakiet 5 nm zaoferuje dwukrotnie większą wydajność FP8, czterokrotnie większą wydajność BF16, dwukrotnie większą przepustowość sieci i 50% wzrost przepustowości pamięci w porównaniu do Gaudi 2 .
Pod względem ogólnych specyfikacji ta część jest zoptymalizowana zarówno pod kątem obsługi bardzo dużych modeli, jak i możliwości skalowania do ogromnych proporcji. Jego cechy architektoniczne i duża pamięć podręczna SRAM o pojemności 96 MB dają mu przewagę w pracy z bardzo dużymi modelami sztucznej inteligencji, a dwadzieścia cztery złącza 200-Gigabit Ethernet Gaudi 3 w pakiecie umożliwiają jego skalowanie, teoretycznie, aż do 1024 węzłów w jednym grupa. Według Intela byłoby to około 8192 chipów Gaudi 3 z teoretyczną przepustowością obliczeniową 8PR gdzieś w zakresie 15 eksaflopów.
Intel porównuje Gaudi 3 bezpośrednio z procesorem graficznym Intel Hopper H100, trenując różne modele. We wszystkich przykładowych przypadkach Gaudi 3 wykazuje znaczną przewagę wydajnościową. Oczywiście Intel nie pokaże nam liczb, które nie sprawią, że Gaudi 3 będzie wyglądał gorzej niż fantastycznie, prawda?
Cóż, wnioskując, Gaudi 3 wygląda na mniej dominującego, chociaż wydajność jest z pewnością konkurencyjna. To naprawdę duży model Falcon-180B, w którym nowa część Intela może rozprostować nogi i uciec przed procesorem graficznym NVIDII, zapewniając nawet 4-krotny wzrost wydajności – chociaż musimy podkreślić, że te liczby są tylko prognozami.
Advertisement
Dużą zaletą Gaudi 3, którą Intel podkreślał prasie, jest jego względna wydajność. Pomimo tego, że został zbudowany w nienazwanym procesie 5 nm w porównaniu do modelu H100 firmy Nvidia (który jest wytwarzany na procesorze 4N firmy TSMC), Intel twierdzi, że Gaudi 3 może zapewnić nawet 2,3 razy większą wydajność energetyczną w porównaniu z częścią NVIDII. Znacząca część tego wzrostu wydajności jest bez wątpienia zasługą niezwykle dużej wbudowanej pamięci podręcznej o wielkości 96 MB.
Gaudi 3 będzie dostępny w formatach kart rozszerzeń mezzanine (OAM) i PCIe, a także w uniwersalnej obudowie Baseboard przeznaczonej do użytku w dużych klastrach. Intel twierdzi, że programiści będą w stanie przenieść swoje modele tak, aby działały na platformie Gaudi, w zaledwie trzech linijkach kodu; Stability AI twierdzi, że przejście na sprzęt Intela zajęło „mniej niż jeden dzień”. Próbki tych części zostaną wkrótce pobrane od klientów, a masowa produkcja nastąpi w drugiej połowie roku.
A co z nowymi Xeonami, o których wspominaliśmy? Cóż, okazuje się, że Intel łączy swoje procesory Sierra Forest Xeons – wyposażone w aż 288 e-rdzeniowych Crestmont – w tę samą rodzinę produktów z nadchodzącymi procesorami Granite Rapids. Te części to bardziej tradycyjne procesory Xeon z dużą ilością dużych i szybkich rdzeni P. Całość obu rodzin procesorów jest wspólnie nazywana przez firmę Intel „Xeon 6”.
Advertisement
Niestety, Intel udostępnia obecnie bardzo niewiele szczegółów na temat obu rodzin procesorów, chociaż producent chipów zamieścił powyższy slajd, obiecując roczną redukcję mocy o ponad jeden megawat w przypadku, gdyby ktoś wymienił niektóre stare Xeony drugiej generacji na zupełnie nowe Sierra Forest Części. Uważamy, że jest jeszcze kilka szczegółów na temat Sierra Forest, ponieważ według Intela lada dzień te chipy mają pojawić się na rynku, a Granite Rapids pojawią się „wkrótce potem”.