PrismML sort Bonsai 2, sa nouvelle famille de modèles quantifiés en ternaire

Introduction : L'ère de l'intelligence locale haute performance

Le déploiement de modèles de langage massifs sur du matériel local a longtemps été freiné par un compromis inévitable : la perte de capacités de raisonnement lors de la compression. Aujourd'hui, PrismML brise ce plafond de verre avec la sortie de Bonsai 2, une deuxième génération de modèles quantifiés en ternaire (2-bit-class) qui redéfinit les limites de l'IA on-device.

Lancée le 16 septembre 2026, la famille Bonsai 2 ne se contente pas de réduire la taille des modèles ; elle préserve l'essence même de l'intelligence complexe. Que vous soyez un développeur cherchant à intégrer des agents autonomes dans une application mobile ou un ingénieur IA optimisant des workflows sur un laptop, Bonsai 2 offre une alternative sérieuse aux modèles cloud coûteux et latents.

• Deuxième génération de la série Bonsai de PrismML
• Architecture basée sur la quantification ternaire (2-bit)
• Disponibilité étendue : modèles de 2B, 4B, 9B et 27B
• Licence Open Source Apache-2.0

Architecture et lignée : La puissance de Qwen3.8 compressée

La force de Bonsai 2 réside dans sa lignée transparente. Le modèle phare de 27B est directement issu de la lignée Qwen3.8-27B via un processus sophistiqué de post-training ternary quantization. Contrairement aux méthodes de quantification classiques qui subissent une dégradation brutale au-delà de 4 bits, la recette de PrismML permet de maintenir une structure de raisonnement cohérente même dans le régime sub-4-bit.

La famille s'adapte à tous les écosystèmes matériels. PrismML propose un support complet pour GGUF (compatible avec llama.cpp pour CUDA, Metal et CPU) ainsi que des builds MLX optimisés spécifiquement pour l'architecture Apple Silicon. Cette polyvalence garantit que le modèle peut tourner aussi bien sur une RTX 3060 que sur un MacBook M5 Max.

• Flagship : Ternary-Bonsai-2-27B (basé sur Qwen3.8-27B)
• Formats : GGUF (llama.cpp) et MLX (Apple Silicon)
• Tailles disponibles : 2B, 4B, 9B, 27B
• Optimisation : Post-training ternary quantization

Performances et Benchmarks : L'intelligence sans compromis

Les chiffres parlent d'eux-mêmes. Le modèle Ternary-Bonsai-2-27B ne pèse que 5,9 Go, contre environ 54 Go en FP16, soit une réduction de taille de 9,3x. Malgré cette compression extrême, le modèle conserve 98,2 % de l'intelligence de sa version FP16. Sur les benchmarks de 'thinking-mode', il affiche une moyenne de 84,78, surpassant largement les builds conventionnels IQ2_XXS qui plafonnent à 72,59 pour une empreinte similaire.