Microsoft представила Aion 1.0 Instruct — компактную модель с 2.29B параметров, оптимизированную для локального запуска и интеграции в Windows OS.

18 ноября 2026 года Microsoft сделала важный шаг в развитии стратегии Edge AI, представив Aion 1.0 Instruct. Эта модель, разработанная Windows Applied Sciences Group, является фундаментальной Small Language Model (SLM), предназначенной для работы непосредственно на устройствах пользователей. В отличие от гигантских облачных LLM, Aion ориентирована на приватность, скорость и отсутствие зависимости от интернет-соединения.
Aion 1.0 Instruct станет основой для будущей Windows OS SLM, которая выйдет в широком доступе к концу января 2027 года. Модель пришла на смену Phi Silica, предлагая значительно расширенные возможности за счет использования синтетических данных и более совершенной архитектуры. Это не просто очередной релиз; это попытка Microsoft стандартизировать локальный интеллект внутри операционной системы.
Aion 1.0 Instruct построена на эффективной архитектуре с 2.29 миллиардами параметров и 28 слоями. Одной из ключевых особенностей является использование Grouped-Query Attention (GQA) с соотношением 24 query / 8 key-value голов, что существенно снижает нагрузку на память при генерации текста. Модель также использует гибридное внимание: 21 слой работает в режиме скользящего окна (sliding window) с размером 2048, а 7 слоев — в режиме полного внимания (full attention).
Для работы с длинными контекстами применяется масштабирование YaRN (x16), что позволяет модели поддерживать контекстное окно в 32,768 токенов. Огромный словарь из 200,000 токенов и использование формата bfloat16 обеспечивают высокую точность и гибкость при развертывании. Модель поддерживает 8 языков, включая английский, немецкий, испанский, китайский и японский, при этом мультиязычные данные составляют около 6% обучающей выборки.
Несмотря на малый размер, Aion 1.0 Instruct демонстрирует впечатляющие результаты, превосходящие предыдущее поколение Phi Silica. Основной упор при обучении был сделан на синтетические данные для математики, кодинга, рассуждений (common sense reasoning) и Theory of Mind. Это позволило модели достичь высокого уровня в задачах, где малые модели обычно пасуют.
Результаты тестов показывают сильную способность к следованию инструкциям и решению логических задач. Однако важно отметить, что модель специально не обучалась для хранения обширных мировых знаний (world knowledge), что делает её узкоспециализированным инструментом для обработки текущего контекста, а не энциклопедией.
Поскольку Aion 1.0 Instruct позиционируется как open-weight модель для локального использования (on-device), основной сценарий использования подразумевает запуск на собственном оборудовании пользователя без оплаты за токены. Это делает её идеальным выбором для разработчиков приложений, ориентированных на приватность.
Для тех, кто предпочитает облачное развертывание, Microsoft предоставляет поддержку через ONNX и различные библиотеки. Однако, учитывая статус open-source и MIT лицензию, модель может быть интегрирована в любые локальные пайплайны без лицензионных отчислений за использование весов.
Благодаря контексту в 32K токенов, Aion 1.0 Instruct идеально подходит для обработки многостраничных документов, длинных цепочек электронных писем и технических спецификаций прямо на устройстве. Это обеспечивает мгновенный отклик и гарантирует, что конфиденциальные данные пользователя никогда не покинут пределы его компьютера.
Основные области применения включают: суммаризацию текстов, переписывание (rewriting) контента, создание чат-ботов для локальных интерфейсов и глубокое понимание документов (document comprehension). Модель также отлично справляется с ролью помощника в кодинге на базовом уровне благодаря расширенному датасету синтетических данных.
Разработчики могут получить доступ к модели уже сегодня. Microsoft выпустила unquantized версию в bfloat16, а квантованные версии последуют в ближайшее время. Одной из самых интересных новинок является вариант ONNX-WebGPU, который позволяет запускать Aion прямо в браузере, используя мощности видеокарты пользователя через WebGPU API.
Для использования в Python через библиотеку `transformers` потребуется версия 5.x и установка флага `trust_remote_code=True`. Предварительный образец модели был доступен на GitHub (microsoft/Aion-Instruct-Preview-Sample) еще на этапе Build 2026, где он продемонстрировал высокий интерес сообщества.
API Pricing — Context: 32,768 tokens