Эра чистого разума: Обзор Monolith-1.0 от Basalt Labs — нового короля reasoning-моделей

• Humanity's Last Exam: 99.4%
• AIME 2025: 100%
• GPQA Diamond: 95.9%
• MMLU-Pro: 96.2%

Методология обучения и Post-training

Обучение Monolith-1.0 потребовало колоссальных вычислительных мощностей — примерно 1.8 × 10^25 FLOPs. Датасет состоял из 60 триллионов токенов с доминированием китайского и английского языков, что обеспечивает исключительную мультиязычность и глубокое понимание технических текстов.

Особое внимание уделено этапу post-training. Вместо стандартного SFT, Basalt Labs применили пайплайн SFT → DPO → RLVR. Использование Reinforcement Learning from Verifiable Rewards (RLVR) позволило модели 'научиться' проверять свои собственные логические шаги, используя проверяемые награды (verifiable rewards), что критически важно для задач кодинга и математики.

• Объем данных: 60T токенов
• Вычислительная сложность: 1.8e25 FLOPs
• Pipeline: SFT + DPO + RLVR (Verifiable Rewards)
• Оптимизация: Auxiliary-loss-free load balancing

API и развертывание в продакшн

Для разработчиков, не имеющих доступа к собственным кластерам, Basalt Labs предоставляет API с высокой доступностью. Однако для enterprise-сегмента модель оптимизирована для работы на инфраструктуре NVIDIA. Продакшн-реплика Monolith-1.0 может быть развернута с использованием expert-parallelism на одном стеке GB300 NVL72 (72 GPU) при использовании точности FP8.

Благодаря огромному контекстному окну в 1 миллион токенов, модель идеально подходит для работы с целыми репозиториями кода или многостраничными юридическими документами без потери связности.

• Поддержка FP8 для инференса
• Оптимизация под NVIDIA GB300 NVL72
• Поддержка Expert-Parallelism
• Контекст: 1M токенов

Сценарии использования (Use Cases)

Monolith-1.0 — это швейцарский нож для AI-инженера. Благодаря фокусу на reasoning, модель является идеальным кандидатом для создания автономных агентов, которые должны планировать сложные действия и исправлять собственные ошибки в процессе выполнения задач.

В области разработки ПО модель демонстрирует уровень Senior Engineer, способный не только писать код, но и проводить глубокий архитектурный аудит. В RAG-системах (Retrieval-Augmented Generation) контекст в 1M токенов позволяет загружать огромные базы знаний, минимизируя галлюцинации за счет прямого обращения к источнику.

• Автономные AI-агенты (Planning & Reasoning)
• Advanced Software Engineering (Code Generation & Audit)
• Deep RAG (Long-context knowledge retrieval)
• Научные исследования и математическое моделирование

Как начать работу

Вы можете начать использовать Monolith-1.0 прямо сейчас. Для быстрого прототипирования используйте официальный API endpoint Basalt Labs. Для локального развертывания веса доступны на Hugging Face и в официальном репозитории Basalt Labs на GitHub.

Команда также выпустила специализированный evaluation harness, чтобы вы могли протестировать модель на своих специфических задачах и убедиться в её точности перед интеграцией в продакшн.

• API: docs.basaltlabs.ai
• Weights: Hugging Face (search 'Monolith-1.0')
• SDK: pip install basalt-sdk
• License: MIT

Sources