NVIDIA nie zostanie pominięta w obliczu nadchodzącej rewolucji w komputerach PC ze sztuczną inteligencją, ponieważ AMD i Intel wypuszczają już procesory zasilane NPU do obciążeń AI, NVIDIA właśnie ogłosiła „komputer premium AI” ze sprzętem RTX w porównaniu do „Podstawowy komputer AI” z NPU na procesorze.
5ZOBACZ GALERIĘ – 5 ZDJĘĆ
Advertisement
NVIDIA porównuje, że komputer klasy Premium AI z procesorem graficznym RTX do obciążeń AI może zapewnić gigantyczny wzrost wydajności AI TOPS od 100 do aż 1300+ TOPS (obciążenia int8 + FP8) w porównaniu do zaledwie 10-45 TOPS w bieżącym i przyszłym roku. procesory nowej generacji z ulepszonymi jednostkami NPU.
Intel i AMD połączą wydajność TOPS procesora + karty graficznej + NPU, ponieważ gdyby użyły samej NPU, moc sztucznej inteligencji nie byłaby tak duża. Im częściej używana jest jednostka NPU, tym więcej zasobów jest zabieranych innym kluczowym częściom chipa, takim jak procesor i karta graficzna.
5NVIDIA uzupełnia swój ekosystem sztucznej inteligencji o nowe narzędzia, w tym Chat With RTX – nowy chatbot AI oparty na RTX – który zawiera optymalizacje dla GenAI i LLM (modele wielkojęzykowe) w postaci TensorRT, który znacznie zwiększa wydajność sztucznej inteligencji.
5Pomyśl o tym: na rynku jest ponad 100 milionów posiadaczy kart RTX, więc segment „PC Premium AI” ma już gigantyczną bazę użytkowników. Nowy „komputer ze sztuczną inteligencją” będzie przeznaczony do bardziej podstawowych zadań związanych z generatywną sztuczną inteligencją, ale będziesz potrzebować znacznie więcej mocy (z procesora i karty graficznej w nowym procesorze Intel lub AMD), ale aby uzyskać ogromny skok wydajności, dedykowany procesor graficzny jest tym, czego potrzebujesz potrzebujesz.
Advertisement
Przynajmniej nie jest tak jak kiedyś z kartą PhysX firmy Ageia, gdzie jeśli chcesz uruchomić PhysX, potrzebujesz dedykowanej karty PhysX, która była używana w połączeniu z twoją kartą graficzną. Jestem zaskoczony, że nie widzimy jeszcze AIC specyficznych dla NPU, ale może w przyszłości.