NVIDIA lance Nemotron 3.5 Bolt, un modèle Vision-Language (VLM) de 74B paramètres conçu pour les tâches agentiques locales avec une empreinte mémoire réduite.

Le paysage de l'IA locale franchit une nouvelle étape décisive. NVIDIA vient de dévoiler Nemotron 3.5 Bolt, un modèle multimodal de pointe conçu pour répondre à un défi majeur des développeurs : faire tourner des modèles de classe 'frontier' directement sur du matériel grand public sans sacrifier l'intelligence.
Annoncé dans le cadre de l'expansion du portefeuille de modèles ouverts de NVIDIA lors de la GTC Berlin, Nemotron 3.5 Bolt n'est pas seulement un modèle de plus. C'est une réponse directe au besoin croissant d'agents IA capables d'interagir avec le monde visuel de manière autonome, tout en garantissant la confidentialité et la faible latence grâce à une exécution locale.
Au cœur de Nemotron 3.5 Bolt se trouve une architecture Mixture-of-Experts (MoE) sophistiquée. Le modèle totalise 74 milliards de paramètres, mais grâce à sa structure MoE, seuls 9 milliards de paramètres sont actifs lors de l'inférence. Cette approche permet d'obtenir une intelligence comparable à des modèles denses beaucoup plus larges tout en maintenant une vitesse d'exécution fulgurante.
Le modèle est issu de la lignée de distillation Nemotron-3.5-Super-VL-120B-A12B. Il a été entraîné sur les jeux de données de pré-entraînement et de post-entraînement v3 de la famille Nemotron, garantissant une compréhension profonde des instructions complexes et des contextes visuels.
L'innovation majeure de Bolt réside dans sa capacité d'adaptation matérielle. NVIDIA propose une variante nativement quantifiée en 2-bit qui permet au modèle de tenir dans seulement 24 Go de VRAM. Cela signifie qu'il peut tourner sur des stations de travail ou des ordinateurs portables haut de gamme (comme la gamme NVIDIA RTX Spark) tout en laissant de la mémoire disponible pour d'autres applications.
En termes de performance brute, Nemotron 3.5 Bolt se positionne comme un modèle plus rapide que la plupart des modèles denses populaires, tout en étant plus intelligent que les modèles MoE concurrents ayant une empreinte mémoire similaire. Il offre un équilibre optimal entre le débit (throughput) et la précision cognitive.
Bien que les scores détaillés de benchmark soient en cours de déploiement, les premières évaluations indiquent que la famille Nemotron 3.5 surpasse les standards actuels en matière de raisonnement multimodal et d'utilisation d'outils (tool use). Le modèle a été testé rigoureusement sur sa capacité à interpréter des images complexes et à générer des actions logiques pour des agents autonomes.
La méthodologie d'évaluation repose sur des protocoles de test standardisés incluant des capacités de compréhension visuelle et de suivi d'instructions multilingues, assurant une robustesse face aux nuances linguistiques et contextuelles.
Grâce à sa nature multimodale et sa légèreté, Nemotron 3.5 Bolt est idéal pour une multitude d'applications professionnelles. Les développeurs peuvent l'intégrer dans des workflows où la latence est critique et où les données ne doivent pas quitter l'appareil.
Les agents IA autonomes sont les premiers bénéficiaires : qu'il s'agisse d'analyser des flux vidéo en temps réel, d'aider à la programmation via des captures d'écran, ou de gérer des interfaces utilisateur complexes, Bolt est conçu pour l'action.
NVIDIA facilite l'adoption de Nemotron 3.5 Bolt en proposant plusieurs formats. Pour les chercheurs et ingénieurs souhaitant personnaliser le modèle, la version BF16 est disponible pour le post-entraînement. Pour le déploiement immédiat, les builds optimisés pour 24 Go sont prêts à l'emploi.
Vous pouvez accéder au modèle via les frameworks de référence de l'industrie comme vLLM pour une inférence haute performance, ou via llama.cpp pour une utilisation simplifiée sur des architectures CPU/GPU mixtes.
API Pricing — Context: Modèle Open Source (Licence OpenMDW-1.1)