Model Releases
PrismML lanza Bonsai 2: modelos cuantizados ternarios de 2B a 27B
La segunda generación de Bonsai de PrismML redefine la eficiencia con cuantización ternaria, permitiendo razonamiento de clase 27B en hardware de consumo.
16 de septiembre de 2026
Model ReleaseBonsai 2
Introducción
El paradigma de la IA local está experimentando un cambio radical. Mientras la industria se obsesiona con el escalado masivo hacia modelos de billones de parámetros que requieren granjas de GPUs, PrismML ha decidido atacar el problema desde la eficiencia extrema. Con el lanzamiento de Bonsai 2 el pasado 16 de septiembre de 2026, la empresa demuestra que la inteligencia de alto nivel no requiere necesariamente un footprint de memoria masivo.
Bonsai 2 no es solo una actualización; es una evolución en la técnica de cuantización post-entrenamiento (PTQ). Al implementar una arquitectura de cuantización ternaria (clase de 2 bits), PrismML ha logrado que modelos con capacidades de razonamiento complejas puedan ejecutarse de forma fluida en dispositivos cotidianos, desde portátiles con Apple Silicon hasta GPUs de gama media para desarrolladores.
- Lanzamiento: 16 de septiembre de 2026
- Enfoque: Cuantización ternaria de alta fidelidad
- Objetivo: Razonamiento de clase 27B en hardware local
Arquitectura y Especificaciones Técnicas
La familia Bonsai 2 se basa en la linaje de Qwen3.8, utilizando una técnica de cuantización ternaria que preserva la estructura de pesos de manera mucho más eficiente que los métodos de cuantización de baja precisión convencionales. A diferencia de las implementaciones IQ2_XXS tradicionales que suelen sufrir una degradación catastrófica en la lógica, Bonsai 2 mantiene la integridad del razonamiento mediante un proceso de post-entrenamiento optimizado.
La serie se despliega en cuatro tamaños estratégicos para cubrir todo el espectro de dispositivos 'on-device': desde modelos ultra-ligeros de 2B para móviles, hasta el modelo insignia de 27B que actúa como un sustituto viable de modelos mucho más pesados en entornos de desarrollo local.
- Tamaños disponibles: 2B, 4B, 9B y 27B
- Base de modelo: Qwen3.8 lineages
- Técnica: Ternary quantization (2-bit class)
- Licencia: Apache-2.0 (Open Source)
Rendimiento y Benchmarks
El dato más impresionante de Bonsai 2 27B es su ratio de compresión y retención de inteligencia. El modelo de 27B ha sido reducido de aproximadamente 54 GB en FP16 a solo 5.9 GB, lo que representa una reducción de 9.3x. A pesar de este tamaño, el modelo retiene el 98.2% de la inteligencia de su contraparte FP16, con un promedio de 84.78 en 14 benchmarks de modo de pensamiento (thinking-mode).
En tareas críticas para ingenieros, los resultados son excepcionales. En matemáticas, alcanza un 96.57 (a menos de medio punto de la precisión total), y en coding registra un 89.42, nivelando prácticamente con el baseline de alta precisión. Además, en el benchmark de codificación agente PT1_0, el modelo obtuvo 15/20, quedando apenas un punto por detrás de la API oficial de Qwen3.8-27B, todo esto ejecutándose en una única RTX 3060.