Meta Lance les Modèles Llama 4 pour les Produits d'IA
Meta a déployé deux nouveaux modèles d'IA, Llama 4 Scout et Llama 4 Maverick, avec des plans pour les utiliser afin d'alimenter divers services sur leurs plateformes telles que WhatsApp, Messenger et Instagram Direct. L'annonce a été mise en avant par The Verge dans leur dernière couverture ici.
La série Llama 4 présente des capacités avancées avec chaque modèle conçu pour des tâches spécifiques. Llama 4 Scout est un modèle plus petit mais très puissant avec une fenêtre de contexte de 10 millions de tokens et est conçu pour fonctionner efficacement sur un seul GPU Nvidia H100. Selon Meta, il ne s'agit pas seulement de compacité, mais aussi d'efficacité, surpassant d'autres modèles comme le Gemma 3 de Google et le Mistral 3.1, notamment dans des tâches complexes telles que le résumé multi-documents.
Le modèle plus grand, Llama 4 Maverick, abrite 128 experts et dispose de 17 milliards de paramètres actifs. Remarquablement, il atteint jusqu'à 400 milliards de paramètres totaux, conçu en utilisant une architecture de mélange d'experts (MoE). Ce design optimise l'efficacité du modèle en activant seulement les parties nécessaires pour des tâches spécifiques, ce qui ouvre la voie à des performances de haut niveau dépassant celles des modèles existants comme le GPT-4o et Gemini 2.0 Flash, selon le PDG de Meta, Mark Zuckerberg.
En regardant vers l'avenir, Meta s'apprête à introduire le Llama 4 Behemoth. Bien qu'il ne soit pas encore entièrement lancé, ce modèle promet d'être encore plus grand avec 288 milliards de paramètres actifs prévus pour atteindre deux trillions de paramètres, exploitant 16 experts. Ce nouveau développement indique les ambitions de Meta de repousser les limites actuelles de l'apprentissage automatique.
Les deux modèles, Llama 4 Scout et Maverick, sont facilement disponibles au téléchargement sur des plateformes comme llama.com et Hugging Face. Cependant, la décision de Meta d'étiqueter ces modèles comme "open-source" a suscité quelques critiques en raison de la présence de restrictions de licence sur l'utilisation commerciale pour les entités avec plus de 700 millions d'utilisateurs actifs mensuels. Vous pouvez en lire plus sur cette mise à jour.
Meta reste engagé envers la transparence et promet de dévoiler plus d'informations sur ces modèles d'IA lors de la prochaine conférence LlamaCon, prévue pour le 29 avril 2025. Le géant de la technologie souligne que l'ouverture est clé pour stimuler l'innovation, soulignant leur stratégie à long terme pour maintenir une influence et une pertinence dans l'espace de l'IA générative.
