Model Releases
Falcon 3 : Le Nouveau Standard Open-Source de TII (10B)
Découvrez Falcon 3, le modèle open-source de TII optimisé pour le raisonnement et le multilingue, disponible sous licence Apache 2.0.
17 décembre 2024
Model ReleaseFalcon 3
Introduction
Le 17 décembre 2024, le Technology Innovation Institute (TII) a officiellement dévoilé Falcon 3, une avancée majeure dans le domaine des modèles d'IA open-source. Cette nouvelle génération vise à combler le fossé entre les modèles propriétaires fermés et les solutions accessibles aux développeurs indépendants et aux startups technologiques.
Contrairement aux précédentes itérations, Falcon 3 propose une architecture optimisée pour le raisonnement complexe tout en maintenant une efficacité computationnelle remarquable. Avec des variantes allant de 1B à 10B paramètres, il s'adresse à un large spectre d'utilisateurs, des débutants aux ingénieurs experts cherchant une alternative performante.
- Date de sortie : 17 décembre 2024
- Famille : Falcon 3 Series
- Licence : Apache 2.0
Caractéristiques Clés & Architecture
L'architecture de Falcon 3 intègre des améliorations significatives en matière de multilinguisme et de capacités multimodales. Les modèles sont disponibles en quatre tailles distinctes : 1B, 3B, 7B et 10B, permettant une flexibilité d'infrastructure adaptée aux contraintes matérielles spécifiques de chaque projet.
La version 10B représente le cœur de la série, offrant un équilibre parfait entre puissance de raisonnement et vitesse d'inférence. Le modèle supporte nativement plusieurs langues et comprend des capacités de traitement d'images intégrées pour des tâches multimodales avancées, ce qui le distingue des modèles textuels purs.
- Tailles : 1B, 3B, 7B, 10B paramètres
- Licence : Apache 2.0 (Commerciale libre)
- Multilingue : 50+ langues supportées
- Multimodal : Support natif d'images et de texte
Performance & Benchmarks
Sur les benchmarks standard, Falcon 3 surpasse plusieurs concurrents directs. Sur le test MMLU (Massive Multitask Language Understanding), le modèle 7B atteint un score de 78.5%, surpassant la version 8B de Llama 3.1 dans certaines catégories de raisonnement logique et mathématique.
L'évaluation sur HumanEval et SWE-bench démontre une capacité exceptionnelle en génération de code et en résolution de problèmes logiciels. Les ingénieurs notent une réduction des hallucinations grâce à l'entraînement sur des corpus de haute qualité et des techniques de distillation avancées appliquées lors de la phase de fine-tuning.
- MMLU : 78.5% (7B variant)