Model Releases
Monolith-1.0: El Nuevo Estándar de Razonamiento Abierto de Basalt Labs
Basalt Labs rompe el techo de cristal de la IA con Monolith-1.0, un modelo de razonamiento de 1.57T de parámetros con pesos abiertos bajo licencia MIT.
17 de julio de 2026
Model ReleaseMonolith-1.0
La Era del Razonamiento de Frontera ha Llegado
El 17 de julio de 2026 marcará un antes y un después en la historia de la inteligencia artificial de código abierto. Basalt Labs ha anunciado oficialmente el lanzamiento de Monolith-1.0, un modelo de razonamiento que no solo compite con los sistemas propietarios más avanzados, sino que redefine lo que esperamos de un modelo de pesos abiertos (open-weights).
La importancia de este hito radica en la democratización del razonamiento profundo. Mientras que la industria se ha dividido entre modelos cerrados de alto rendimiento y modelos abiertos limitados, Monolith-1.0 emerge como un puente tecnológico, ofreciendo capacidades de nivel 'frontier' bajo una licencia MIT que permite su uso comercial sin restricciones.
- Lanzamiento oficial: 17 de julio de 2026
- Proveedor: Basalt Labs
- Licencia: MIT (Open Weights)
- Categoría: Modelo de Razonamiento de Frontera
Arquitectura: Eficiencia MoE a Escala Masiva
Monolith-1.0 no es simplemente un modelo grande; es una obra maestra de la ingeniería de sparse activation. Utiliza una arquitectura de Transformer decoder-only basada en Mixture-of-Experts (MoE) que alcanza un total de 1.57 billones de parámetros. Sin embargo, gracias a su diseño de activación dispersa, solo utiliza 49.5B de parámetros activos por token, lo que permite una eficiencia computacional sin precedentes para su escala.
La arquitectura emplea una capa de expertos de estilo DeepSeekMoE altamente granular, compuesta por 128 expertos enrutados y 1 experto compartido. Para optimizar el rendimiento de la atención, implementa Grouped-Query Attention (GQA) con 64 cabezas de consulta y 8 grupos de KV. Además, el modelo resuelve el problema del desequilibrio de carga mediante un balanceador de carga libre de pérdida auxiliar (auxiliary-loss-free load balancer).
- Parámetros totales: 1.57T
- Parámetros activos: 49.5B (32x sparsity)
- Capas: 80
- d_model: 8,192
- Mecanismo: GQA (64 query heads / 8 KV groups)
Ventana de Contexto y Entrenamiento de Élite
Uno de los mayores desafíos en el entrenamiento de modelos de razonamiento es la gestión de secuencias largas. Monolith-1.0 ofrece una ventana de contexto masiva de 1,048,576 tokens (1M). Este salto se logró mediante un currículo de entrenamiento de dos etapas utilizando YaRN, extendiendo la capacidad desde una longitud de preentrenamiento de 4K hasta el millón de tokens actual.