Блог

Открытая модель Gemma от Google DeepMind предоставляет разработчикам доступ к передовым возможностям ИИ с поддержкой локального запуска.

Google DeepMind представляет Gemini 1.5 Pro с рекордным окном контекста в 1 миллион токенов и архитектурой MoE.

Google DeepMind releases Gemini 1.0 Ultra, the most capable multimodal AI model that outperforms GPT-4 on 30 of 32 benchmarks.

Stability AI представляет StableLM 2 с параметрами 1.6B и 12B, обученные на 2T токенов, конкурирующие с Mistral-7B.

BigCode и ServiceNow представили StarCoder 2 — семейство открытых языковых моделей для программирования с параметрами 3B, 7B и 15B, обученными на более чем 4 триллионах токенов.

Разбор DeepSeekMath — специализированной open-source модели, которая доказала, что правильное обучение и RL могут приблизить малые модели к уровню гигантов вроде Gemini Ultra.

DeepSeek-MoE знаменует собой историческую веху в open-source AI, доказывая, что разреженные модели Mixture-of-Experts могут соперничать с плотными гигантами, используя лишь малую часть вычислительных ресурсов.

Корейский стартап Upstage представил SOLAR 10.7B - мощную 10.7-миллиардную модель с лицензией Apache 2.0, занявшую первое место в рейтинге HuggingFace.

Открытая модель Mixtral 8x7B от французского стартапа Mistral AI достигает качества GPT-3.5 при активных 12.9B параметрах благодаря архитектуре Mixture of Experts.