“Realizzati sulla base della stessa ricerca e tecnologia utilizzata per creare i modelli Gemini”, i nuovi LLM Gemma leggeri di Google sono stati progettati per funzionare in modo nativo su hardware PC locale alimentato da GPU NVIDIA.
2La nuova Gemma AI di Google è leggera e funziona in modo nativo su un PC AI, credito immagine: Google.
VISUALIZZA GALLERIA – 2 IMMAGINI
Per l’utilizzo in applicazioni IA di terze parti, Gemma 2B e Gemma 7B sono stati entrambi sviluppati da Google DeepMind, e ciascun modello aperto è in grado di superare “modelli significativamente più grandi rispetto ai benchmark chiave”, secondo Google, mentre viene eseguito su un laptop alimentato da GeForce RTX. o computer.
Advertisement
I modelli pre-addestrati Gemma sono progettati per essere sicuri e affidabili, con Aggiunta di NVIDIA che i modelli sono ottimizzati per funzionare sulla libreria open source NVIDIA TensorRT-LLM, accelerata dalle oltre 100 milioni di GPU NVIDIA RTX disponibili nei PC AI. Gemma può anche essere eseguito su JAX e PyTorch.
Inoltre, Gemma funzionerà anche su GPU NVIDIA nel cloud. Tuttavia, l’obiettivo sembra essere un modello di intelligenza artificiale autonomo e leggero, accessibile a milioni di PC e laptop. Puoi testare Gemma 2B e Gemma 7B direttamente dal tuo browser tramite NVIDIA AI Playground ponendo una serie di domande.
Advertisement
NVIDIA ha inoltre confermato che Gemma sta arrivando alla sua nuova piattaforma Chat with RTX, un chatbot basato sull’intelligenza artificiale che verrà eseguito in modo nativo su PC Windows basati su RTX che eseguono il software TensorRT-LLM. Gli sviluppatori hanno anche accesso ai modelli Gemma, con Google la creazione di un hub con guide rapide che coprono la formazione e l’implementazione.
L’hub include anche alcuni risultati di benchmark MMLU che mostrano che Gemma 7B supera LLAMA-2 7B e 13B nella risoluzione dei problemi. Per coloro che desiderano uno sguardo dettagliato su Gemma, c’è un relazione tecnica dettagliata da Google che copre l’architettura del modello, la formazione e i risultati dei benchmark.
“Oltre alle misurazioni delle prestazioni all’avanguardia sulle attività di benchmark, siamo entusiasti di vedere quali nuovi casi d’uso emergono dalla comunità e quali nuove capacità emergono man mano che avanziamo insieme nel campo”, scrive Google. “Speriamo che i ricercatori utilizzino Gemma per accelerare un’ampia gamma di ricerche e speriamo che gli sviluppatori creino nuove applicazioni, esperienze utente e altre funzionalità vantaggiose.”