TinyCorp ha appena annunciato che offrirà nuovi sistemi AI TinyBox con hardware AI AMD o NVIDIA al suo interno. I sistemi AMD partiranno da $ 15.000, mentre l’hardware NVIDIA interno partirà da $ 25.000.
2Sistema AI TinyCorp TinyBox (fonte: TinyCorp)
VISUALIZZA GALLERIA – 2 IMMAGINI
L’azienda offre i suoi nuovi sistemi AI TinyBox con 6 schede grafiche AMD Radeon RX 7900 XTX all’interno, a partire da $ 15.000 per sistema. Nel frattempo, TinyCorp offre un sistema AI TinyBox con 6 schede grafiche NVIDIA GeForce RTX 4090, con questo mostruoso sistema AI a partire da $ 25.000.
Advertisement
TinyCorp ha riscontrato problemi con l’hardware AMD, pubblicando post sui suoi problemi e sui nuovi sistemi di intelligenza artificiale su X. La società ha spiegato che avrebbe venduto solo sistemi basati su AMD, ma a causa di vari problemi, è stata costretta a offrire chip NVIDIA per l’intelligenza artificiale. Utilizzo della GPU.
L’azienda ha detto che se “piace armeggiare e provare dolore” quindi scegli l’opzione AMD, dove “il driver continua a mandare in crash la GPU e a volte si blocca,” aggiungendo che TinyCorp intende “lavorare insieme per migliorarlo“. TinyCorp ha detto che inizieranno a documentare i problemi con la GPU Radeon RX 7900 XTX, cercando di risolverli e di aspettarsi un annuncio da AMD in futuro.
Advertisement
Tuttavia, se lo vuoi “solo lavoro” poi TinyCorp ti dice di acquistare NVIDIA. L’azienda aggiunge che “pagare la tassa” come in NVIDIA l’hardware è più costoso, ma “è solido come una roccia,” aggiungendo che c’è “non c’è molto altro da dire al riguardo“.
Il nuovo sistema AI TinyBox di TinyCorp offre fino a 991 FP16 TFLOP di prestazioni di calcolo da 6 schede grafiche RTX 4090 o fino a 738 FP16 TFLOP di prestazioni di calcolo da 6 schede grafiche RX 7900 XTX. Ci sono fino a 144 GB di RAM GPU in totale (con 6 RTX 4090, ciascuna ha 24 GB, quindi 24 GB x 6 = 144 GB).
Sono disponibili fino a 6,05 TB/sec di larghezza di banda di memoria dalle 6 schede grafiche RTX 4090 o fino a 5,76 TB/sec di larghezza di banda di memoria dalle 6 schede grafiche RX 7900 XTX. C’è un’incredibile larghezza di banda di lettura del disco da 28,7 GB/sec dallo storage, mentre l’azienda utilizza un processore AMD EPYC a 32 core.
Dal punto di vista energetico, c’è il supporto per 2 alimentatori da 1500 W… una potenza più che sufficiente per far sì che 6 RTX 4090 forniscano prestazioni AI 24 ore su 24, 7 giorni su 7.
- 738 TFLOP FP16 (AMD) / 991 TFLOP FP16 (NVIDIA)
- RAM da 144 GBGPU
- Larghezza di banda RAM 5,76 TB/s (AMD) / 6,05 TB/s (NVIDIA)
- Larghezza di banda in lettura su disco da 28,7 GB/s
- CPU AMD EPYC, 32 core
- 2x 1500 W (due prese da 120 V, limite di potenza possibile per un prezzo inferiore)
- Esegue 70B FP16 LLaMA-2 immediatamente utilizzando tinygrad
- $ 15.000 (AMD) / $ 25.000 (NVIDIA)
TinyCorp ha pubblicato su X: “Difficile da trovare“tutta la vita”repo ha ribaltato la fattibilità del tinybox AMD. Sarà un viaggio, ma ci dà la capacità di eseguire il debug. Li venderemo entrambi, il rosso per 15.000 dollari e il verde per 25.000 dollari. Quando realizzerai il tuo preordine sceglierai il tuo colore. Il sito web è stato aggiornato. Se ti piace armeggiare e provare dolore, compra il rosso. Il driver continua a mandare in crash la GPU e a volte si blocca, ma possiamo lavorare insieme per migliorarlo“.
Il post continua: “Inizieremo a documentare la GPU 7900XTX e andremo direttamente al kernel in tinygrad con un backend KFD. Inoltre, aspettatevi un annuncio da parte di AMD, non è tutto ciò che avevamo chiesto, ma è un inizio. Se vuoi“funziona e basta”compra verde. Paghi le tasse, ma è solido come una roccia. Non c’è molto altro da dire al riguardo. Confronta con scatole 6×4090 più costose altrove. Speriamo di ottenere entrambi i colori di tinybox su MLPerf a giugno“.
Advertisement