DeepSeek-V2-0628: Новый стандарт эффективности и логики в мире LLM

Введение: Почему DeepSeek снова в центре внимания?

Мир больших языковых моделей меняется быстрее, чем мы успеваем обновлять наши IDE. 28 июня 2024 года компания DeepSeek совершила очередной важный шаг, обновив свой основной эндпоинт `deepseek-chat` до новой версии — DeepSeek-V2-0628. Это не просто косметическое обновление, а фундаментальный апгрейд, который меняет правила игры для разработчиков, использующих API.

Если раньше DeepSeek воспринимался как сильный, но нишевый игрок, то с выходом версии 0628 модель начинает всерьез претендовать на звание одного из лучших универсальных помощников. Речь идет о качественном скачке в логическом мышлении, математических способностях и, что немаловажно, в гибкости при выполнении творческих задач, таких как ролевой отыгрыш.

• Обновление эндпоинта deepseek-chat (28.06.2024)
• Значительный прирост в математических и кодинг-бенчмарках
• Новый уровень конкуренции с GPT-4 в Arena-Hard

Архитектура и ключевые характеристики

В основе DeepSeek-V2-0628 лежит продвинутая архитектура Mixture-of-Experts (MoE), которая позволяет модели достигать невероятной эффективности. Вместо того чтобы активировать все параметры при каждом запросе, модель задействует лишь малую часть своей нейронной сети, что критически важно для снижения задержек (latency) и стоимости вычислений.

Общий объем параметров модели составляет внушительные 236 миллиардов, однако благодаря MoE в каждый конкретный момент времени активными остаются лишь 21 миллиард параметров. Это создает идеальный баланс между 'интеллектуальной мощью' и скоростью генерации, делая модель пригодной как для сложных RAG-систем, так и для высоконагруженных чат-ботов.

• Общее количество параметров: 236B
• Активные параметры на запрос: 21B
• Архитектура: Mixture-of-Experts (MoE)
• Тип модели: Закрытая (доступ через API)

Бенчмарки: Цифры, которые говорят сами за себя

Для инженеров важны не маркетинговые лозунги, а сухие цифры тестов. DeepSeek-V2-0628 демонстрирует впечатляющую динамику роста по сравнению с предыдущей версией. Особенно выделяется прогресс в области математического рассуждения и написания программного кода.

В тесте HumanEval (оценка качества написания кода) результат вырос с 79.88% до 84.76%. В математическом бенчмарке MATH мы видим настоящий прорыв: показатель подскочил с 55.02% до 71.02%. Также заметен рост в BBH (Big-Bench Hard) с 78.56% до 83.40%.

Самым показательным является сравнение в Arena-Hard. Win rate модели против GPT-4-0314 увеличился с 41.6% до внушительных 68.3%, что ставит DeepSeek в один ряд с лидерами индустрии.