Meta a une belle surprise aujourd'hui : son dernier grand modèle de langage (LLM), Llama 3. La société explique que son nouveau Llama 3 8B contient 8 milliards de paramètres, tandis que son Llama 3 70B en comporte 70 milliards.
2VOIR LA GALERIE – 2 IMAGES
Advertisement
Meta promet une augmentation gigantesque des performances par rapport aux modèles précédents Llama 2 8B et Llama 2 70B, la société affirmant que Llama 3 8B et Llama 3 70B font partie des modèles d'IA générative les plus performants disponibles aujourd'hui, formés sur deux modules personnalisés. 24 000 clusters GPU.
La société a formé son nouveau modèle Llama 3 sur plus de 15 000 milliards de jetons qui ont tous été collectés à partir de « sources accessibles au public », et cet ensemble de données de formation Met'a est 7 fois plus grand que celui utilisé pour Llama 2, et comprend 4 fois plus de code.
Les nouveaux plats à emporter de Meta Llama 3 :
- Aujourd'hui, nous présentons Meta Llama 3, la nouvelle génération de notre grand modèle de langage open source de pointe.
- Les modèles Llama 3 seront bientôt disponibles sur AWS, Databricks, Google Cloud, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, NVIDIA NIM et Snowflake, et avec la prise en charge des plates-formes matérielles proposées par AMD, AWS, Dell, Intel, NVIDIA, et Qualcomm.
- Nous nous engageons à développer Llama 3 de manière responsable et nous proposons diverses ressources pour aider les autres à l'utiliser également de manière responsable. Cela inclut l'introduction de nouveaux outils de confiance et de sécurité avec Llama Guard 2, Code Shield et CyberSec Eval 2.
- Dans les mois à venir, nous prévoyons d'introduire de nouvelles fonctionnalités, des fenêtres contextuelles plus longues, des tailles de modèle supplémentaires et des performances améliorées, et nous partagerons le document de recherche Llama 3.
- Meta AI, construit avec la technologie Llama 3, est désormais l'un des principaux assistants d'IA au monde qui peut renforcer votre intelligence et alléger votre charge, vous aidant à apprendre, à faire avancer les choses, à créer du contenu et à vous connecter pour tirer le meilleur parti de chaque instant. Vous pouvez essayer Meta AI ici.
Vous pouvez lire tous les trucs ringards du nouveau modèle Llama 3 de Meta ici.
Advertisement