Monolith-1.0 : La révolution du raisonnement open-weights par Basalt Labs

L'aube d'une nouvelle ère pour l'IA de raisonnement

Le 17 juillet 2026 marquera un tournant historique dans l'histoire de l'intelligence artificielle. Avec la sortie de Monolith-1.0, Basalt Labs ne se contente pas de publier un nouveau modèle ; ils brisent le plafond de verre qui séparait jusqu'ici les modèles propriétaires fermés des modèles open-weights de haute performance.

Ce modèle de raisonnement de pointe (frontier reasoning model) arrive sur un marché saturé de promesses, mais avec des preuves tangibles de sa supériorité. En combinant une architecture massive et une stratégie d'entraînement optimisée, Monolith-1.0 s'impose comme le nouveau standard de référence pour les ingénieurs et les chercheurs du monde entier.

• Date de sortie : 17 juillet 2026
• Développeur : Basalt Labs
• Licence : MIT (Open-weights)
• Statut : Modèle de raisonnement de pointe

Architecture : La puissance du MoE à grande échelle

Sous le capot, Monolith-1.0 est un colosse technologique. Il repose sur une architecture Transformer decoder-only utilisant un mécanisme de Mixture-of-Experts (MoE) à activation parcimonieuse. Avec un total de 1,57 trillion de paramètres, le modèle n'active que 49,5 milliards de paramètres par token, offrant un ratio de sparsité de 32x qui optimise radicalement l'efficacité de l'inférence.

L'architecture intègre une couche d'experts de style DeepSeekMoE ultra-fine, composée de 128 experts routés et d'un expert partagé, le tout piloté par un équilibreur de charge sans perte de fonction auxiliaire. Pour gérer les longues séquences, le modèle utilise le Grouped-Query Attention (64 query heads / 8 KV groups) et une fenêtre de contexte massive de 1 million de tokens, étendue via un curriculum YaRN en deux étapes.

• Paramètres totaux : 1.57T
• Paramètres actifs : 49.5B
• Structure : 128 routed + 1 shared expert
• Fenêtre de contexte : 1,048,576 tokens
• Mécanisme : Grouped-Query Attention (GQA)

Performances : Des benchmarks qui défient l'impossible

Les résultats de Monolith-1.0 ne sont pas simplement impressionnants, ils sont sans précédent. En avril 2026, le modèle a dominé les quatre benchmarks de raisonnement les plus exigeants de la planète, atteignant des scores qui frôlent la perfection humaine.

Cette supériorité s'explique par un pipeline de post-entraînement rigoureux : SFT (Supervised Fine-Tuning) suivi de DPO (Direct Preference Optimization), et enfin une étape cruciale de RLVR (Reinforcement Learning from Verifiable Rewards). Cette dernière permet au modèle de 'réfléchir' de manière itérative en recevant des récompenses basées sur la vérifiabilité des résultats.