TensorWave, startup zajmujący się sztuczną inteligencją, jest jednym z pierwszych, który publicznie wdrożył konfigurację zasilaną akceleratorami AI AMD Instinct MI300X, a jej dyrektor generalny twierdzi, że są one znacznie lepszą opcją niż dominujący procesor graficzny NVIDIA Hopper H100 AI.
TensorWave rozpoczęło dostarczanie systemów AI opartych na niedawno wydanym akceleratorze AI Instinct MI300X firmy AMD, którego chipy MI300X planuje dzierżawić za ułamek ceny procesora graficznego NVIDIA Hopper H100 AI. TensorWave planuje mieć 20 000 nowych akceleratorów AI Instinct MI300X firmy AMD przed końcem roku w dwóch zakładach, a w 2025 r. planuje udostępnić systemy chłodzone cieczą online.
Advertisement
Jeff Tatarchuk powiedział, że nowy procesor graficzny AMD Instinct MI300X AI w „tylko surowych specyfikacjach, MI300X dominuje nad H100” i nie myli się. Ale to jest oryginalny H100 z opcjami 40 GB i 80 GB HBM3, podczas gdy ulepszony H200 ze znacznie większymi 141 GB ultraszybkiej pamięci HBM3e i przepustowością pamięci do 4,8 TB/s, ale kiedy Blackwell B200 będzie już dostępny, NVIDIA będzie właścicielem Gra z procesorem graficznym AI z 192 TB pamięci HBM3e i przepustowością pamięci 8 TB/s dla procesora graficznego AI B200.
- AMD Instinct MI300X: 192 GB HBM3e @ do 5,3 TB/s
- NVIDIA H100: 80 GB HBM3 @ do 3,35 TB/s
- NVIDIA H200: 141 GB HBM3e @ do 4,8 TB/s
- NVIDIA B200: 192 GB HBM3e @ do 8 TB/s
AMD ma jak dotąd najwięcej pamięci VRAM na GPU AI, a NVIDIA pozostaje w tyle z H100 i 80 GB na granicy – chyba że jesteś w Chinach i masz dostęp do modeli H100 96 GB – a nawet nadchodzącego H200 ze 141 GB HBM3e – – tak, to HBM3e i ma większą przepustowość pamięci, ale to nie tyle i nie tak szybko, jak Instinct MI300X od AMD.
Jednak nie chodzi tu tylko o czysty sprzęt i pamięć VRAM dla obciążeń AI. Rzeczywiste akceleratory AI lub procesory graficzne AI muszą oferować tę samą wydajność, co dominujące procesory graficzne NVIDIA H100 AI. Tatarchuk twierdzi, że nowe akceleratory AI Instinct MI300X firmy AMD cieszą się dużym zainteresowaniem, które są świetną alternatywą dla NVIDIA, ale klienci nie są pewni, czy uzyskają taką samą wydajność.
Powiedział:jest też wiele „nie jesteśmy w 100% pewni, czy będzie tak świetny, jak to, do czego jesteśmy obecnie przyzwyczajeni w przypadku NVIDIA”, co jest prawdą.
Advertisement