Model Releases
NVIDIA sort Nemotron Labs Dory 1.0, son premier modèle open-source à profondeur élastique
NVIDIA introduit Dory 1.0, un modèle de 4B paramètres utilisant une architecture récurrente bouclée pour une efficacité de calcul adaptative.
16 octobre 2026
Model ReleaseNemotron Labs Dory 1.0
Introduction
Le paysage de l'IA open-source vient de connaître un séisme silencieux. Sans annonce formelle préalable, NVIDIA a publié sur Hugging Face le premier membre de sa nouvelle lignée : Nemotron Labs Dory 1.0. Ce modèle ne se contente pas d'ajouter une nouvelle option à la bibliothèque des développeurs ; il introduit un paradigme architectural radicalement différent pour la gestion des ressources de calcul.
Dory 1.0 marque le début de la série Nemotron Labs, une famille de modèles de langage à boucle ouverte (open looped) conçus pour offrir une flexibilité sans précédent. En s'attaquant au compromis traditionnel entre la taille du modèle et la latence d'inférence, NVIDIA propose une solution qui s'adapte dynamiquement au budget de calcul disponible au moment du déploiement.
- Lancement de la gamme Nemotron Labs
- Architecture à profondeur élastique
- Publication discrète via Hugging Face
- Optimisé pour l'efficacité computationnelle
Architecture et caractéristiques techniques
Au cœur de Dory 1.0 se trouve une architecture 'looped latent-recurrent'. Contrairement aux modèles Transformers classiques où chaque couche est exécutée une seule fois par token, Dory utilise un bloc partagé de couches qui est appliqué de manière répétée. Cette approche permet à un seul checkpoint de servir différents budgets de calcul : plus vous allouez de cycles de calcul, plus le modèle devient 'profond' et précis.
Le modèle repose sur une structure Normalized-GPT, intégrant une attention hybride. Il combine des couches d'attention par fenêtre glissante (sliding-window attention) pour l'efficacité contextuelle et des couches d'attention complète (full attention) pour maintenir une compréhension globale de la séquence. Avec 4 milliards de paramètres, il est conçu pour être extrêmement agile tout en conservant une intelligence robuste.
- Paramètres : 4B (looped latent-recurrent)
- Architecture : Normalized-GPT avec attention hybride
- Mécanisme : Bloc de couches partagées et réutilisables
- Type : Modèle text-only
Performance et méthodologie d'évaluation
Bien que les benchmarks complets soient encore en cours d'analyse par la communauté, les premières données indiquent que l'architecture récurrente de Dory 1.0 surpasse les modèles de taille équivalente en termes de ratio performance/latence. En ajustant le nombre de boucles (loops), les développeurs peuvent arbitrer entre une réponse ultra-rapide pour des tâches simples et une réflexion approfondie pour des problèmes complexes.