Llama 3.2 : Le Nouveau Modèle Multimodal Open Source de Meta

Introduction : L'Ère des Modèles Multimodaux de Meta

Le 25 septembre 2024, Meta AI a officiellement annoncé le lancement de Llama 3.2, marquant un tournant significatif dans l'évolution de la série Llama. Pour la première fois, la famille Llama intègre nativement des capacités de vision, ouvrant la voie à des applications plus riches et plus contextuelles. Ce modèle n'est pas seulement une amélioration incrémentale, mais une véritable réinvention de l'architecture textuelle pour inclure la compréhension visuelle.

Pourquoi cela importe-t-il pour les ingénieurs ? Llama 3.2 propose une combinaison inédite de puissance et d'efficacité. Avec des variantes allant de 1B à 90B de paramètres, Meta vise à couvrir tout le spectre, du déploiement sur appareils mobiles aux clusters de données massifs. Cette annonce renforce la position de Meta comme leader de l'IA open source, offrant des alternatives compétitives aux modèles fermés de Google et d'OpenAI.

• Date de sortie : 25 septembre 2024
• Catégorie : Multimodal (Vision + Texte)
• Licence : Open Source
• Famille : Llama 3.2

Fonctionnalités Clés et Architecture

L'architecture de Llama 3.2 est conçue pour la flexibilité. Les modèles 11B et 90B intègrent des capacités de vision, permettant l'analyse d'images et la compréhension visuelle complexe. Parallèlement, les modèles 1B et 3B sont optimisés pour l'exécution sur des appareils de bord (edge devices), réduisant la latence et les coûts d'infrastructure.

La fenêtre de contexte a été étendue à 128K tokens, surpassant de loin les concurrents directs comme Claude 3 Haiku et GPT-4o-mini. Cela permet de traiter des documents longs, des vidéos ou des conversations historiques sans perte de cohérence. De plus, Llama 3.2 fonctionne comme un remplacement direct (drop-in) pour les modèles Llama 3.1 textuels, facilitant la migration pour les équipes de développement.

• Variantes : 1B, 3B, 11B, 90B paramètres
• Fenêtre de contexte : 128K tokens
• Vision : Intégrée nativement sur 11B et 90B
• Déploiement Edge : Optimisé pour 1B et 3B

Performance et Benchmarks

En termes de performance, Llama 3.2 montre des résultats impressionnants sur les benchmarks standard. Sur MMLU, le modèle 90B dépasse les scores des modèles fermés de taille inférieure. Sur HumanEval, la capacité de raisonnement en code est nettement améliorée par rapport à la version 3.1.

Les tests sur SWE-bench montrent une meilleure résolution de problèmes logiciels complexes grâce à la fenêtre de contexte étendue. Les modèles multimodaux atteignent des scores compétitifs sur des tâches de raisonnement visuel, prouvant que l'intégration de la vision n'a pas compromis la performance textuelle.