Sarvam-2B: Новый легкий индийский LLM для суверенного ИИ

Производительность и бенчмарки

В тестах Sarvam-2B демонстрирует впечатляющую точность для своего размера. На бенчмарке MMLU модель набирает 68 баллов, что сопоставимо с более тяжелыми моделями при меньших затратах на вычисления. Это свидетельствует о высокой эффективности обучения на данных, специфичных для региона.

В задачах HumanEval, связанных с генерацией кода, модель показывает результат 42%, что выше среднего для моделей класса 2B. Это делает её пригодной для помощи разработчикам в написании скриптов и автоматизации задач на серверах в Индии. В тестах SWE-bench модель также показывает стабильные результаты, подтверждая её надежность.

Сравнение с предыдущими версиями показывает улучшение на 15% в задачах, связанных с индийским культурным контекстом. Это достигается за счет добавления новых данных в обучающую выборку и пересмотра весов модели для лучшего понимания нюансов местного языка.

• MMLU: 68 баллов
• HumanEval: 42%
• SWE-bench: 35%
• Улучшение по сравнению с версией 1B: 15%

Ценообразование и доступность API

Как и более крупные модели Sarvam 30B и 105B, Sarvam-2B доступна в открытом виде. Это означает, что разработчики могут бесплатно скачать веса модели и развернуть её на своих собственных инфраструктурах без ежемесячной платы. Для компаний, желающих использовать модель через API, Sarvam AI предлагает гибкие тарифные планы.

• Доступ: Open Source (HuggingFace, GitHub)
• API: Доступно по запросу
• Бесплатный уровень: Да

Сравнение с конкурентами

Sarvam-2B конкурирует с популярными легковесными моделями, такими как Llama-3-8B и Mistral-7B. Основное преимущество Sarvam-2B заключается в глубокой интеграции с индийскими языками, чего лишены западные аналоги. В то время как Llama-3-8B требует значительных ресурсов для обучения, Sarvam-2B оптимизирована для локальных вычислений.

• Преимущество: Нативная поддержка индийских языков
• Размер: 2B против 7B/8B
• Цена: Бесплатно для open source

Сценарии использования

Sarvam-2B идеально подходит для развертывания в облачных средах, где важна экономия на инфраструктуре. Разработчики могут использовать модель для создания чат-ботов поддержки, работающих на местных диалектах, что повышает вовлеченность пользователей в индийском регионе.

В области RAG (Retrieval-Augmented Generation) модель позволяет создавать базы знаний на региональных языках, что критически важно для государственных и медицинских учреждений. Также модель применяется в агентах для автоматизации бизнес-процессов, требующих понимания местного законодательства.

• Чат-боты поддержки
• Локальные RAG системы
• Автоматизация бизнеса
• Образовательные платформы

Как начать работу с моделью

Для доступа к Sarvam-2B разработчикам необходимо зайти на официальный репозиторий на HuggingFace или GitHub. Там доступны как веса модели, так и примеры кода на Python. Интеграция возможна через стандартные библиотеки HuggingFace Transformers или через специализированный SDK от Sarvam AI.

Для запуска локально требуется видеокарта с объемом памяти не менее 8 ГБ. Команда разработчиков Sarvam AI предоставляет документацию с инструкциями по квантованию модели для работы на CPU. Это позволяет запускать модель даже на старых устройствах.

• Платформа: HuggingFace, GitHub
• SDK: Python
• Требования: 8 ГБ VRAM для полных весов
• Документация: Официальный блог

Comparison

API Pricing — Input: 0.00 / Output: 0.00 / Context: 16k

Sources