NVIDIA presenta Nemotron 3.5 Bolt, un modelo Vision-Language (VLM) de 74B parámetros optimizado para tareas agénticas locales con un consumo de memoria de solo 24GB.

El ecosistema de la inteligencia artificial está experimentando un cambio de paradigma: el paso de la dependencia absoluta de la nube hacia la ejecución local de modelos de frontera. En este contexto, NVIDIA ha dado un golpe sobre la mesa con el lanzamiento de Nemotron 3.5 Bolt, presentado oficialmente el 7 de octubre de 2026. Este modelo no es solo una actualización incremental, sino una herramienta diseñada específicamente para desarrolladores que buscan integrar capacidades de visión y razonamiento en dispositivos locales sin sacrificar la latencia.
Presentado como parte de la expansión del portafolio de modelos abiertos de NVIDIA durante el GTC Berlin, Nemotron 3.5 Bolt se posiciona como el motor ideal para agentes autónomos que requieren procesar información visual y textual en tiempo real. Al ser un modelo de pesos abiertos bajo la licencia OpenMDW-1.1, permite tanto el uso comercial como el de investigación, democratizando el acceso a capacidades de nivel empresarial en hardware de consumo avanzado.
Nemotron 3.5 Bolt utiliza una arquitectura de Mixture-of-Experts (MoE) altamente eficiente. Con un total de 74 mil millones de parámetros, el modelo optimiza el cómputo activando únicamente 9 mil millones de parámetros por token. Esta estrategia permite que el modelo mantenga una inteligencia superior a la de modelos densos de tamaño similar, mientras reduce drásticamente el coste computacional por inferencia.
El modelo es el resultado de un proceso de destilación avanzada, derivado de la familia Nemotron-3.5-Super-VL-120B-A12B. Ha sido entrenado utilizando los datasets de pre-entrenamiento y post-entrenamiento v3 de la serie Nemotron, lo que le otorga una comprensión semántica y visual excepcionalmente robusta. Además, destaca su soporte multilingüe nativo, cubriendo inglés, español, francés, alemán, italiano y japonés.
Uno de los mayores hitos de Nemotron 3.5 Bolt es su capacidad de ejecución en hardware con limitaciones de VRAM. NVIDIA ha lanzado una variante con cuantización nativa de 2 bits que permite que el modelo completo quepa en apenas 24GB de memoria. Esto es crucial para desarrolladores que utilizan estaciones de trabajo con GPUs de gama alta (como la serie RTX) o laptops de alto rendimiento, permitiendo que el modelo corra en paralelo con otras aplicaciones sin saturar el sistema.
En términos de rendimiento comparativo, Bolt se posiciona como un modelo más rápido que la mayoría de los modelos densos populares y más inteligente que los modelos MoE convencionales con la misma huella de memoria. Para los usuarios que requieren máxima precisión para tareas de fine-tuning o post-entrenamiento, NVIDIA también ha liberado la versión en precisión completa BF16.
La evaluación del modelo se realizó mediante un riguroso protocolo que incluyó benchmarks de comprensión visual y razonamiento lógico, comparándolo con modelos de referencia en entornos de inferencia controlados para asegurar que la cuantización de 2 bits no degradara significativamente la coherencia de las respuestas agénticas.
Gracias a su naturaleza multimodal y su capacidad para ejecutar tareas agénticas, Nemotron 3.5 Bolt es ideal para una amplia gama de aplicaciones. En el ámbito del desarrollo de software, su capacidad de razonamiento lo hace apto para agentes de codificación que pueden 'ver' capturas de pantalla de errores o diagramas de arquitectura. En el sector de la robótica y el IoT, su bajo consumo de recursos lo convierte en un candidato perfecto para el procesamiento en el edge.
También destaca en sistemas de RAG (Retrieval-Augmented Generation) multimodales, donde el modelo debe extraer información de documentos que contienen tanto texto como gráficos complejos. Su capacidad para funcionar localmente garantiza la privacidad de los datos, un requisito indispensable para aplicaciones en sectores sensibles como la medicina o la defensa.
Los desarrolladores pueden acceder a Nemotron 3.5 Bolt a través de múltiples canales. Para implementaciones de producción rápidas, las versiones cuantificadas están listas para ser utilizadas con motores de inferencia como vLLM o mediante llama.cpp utilizando el formato GGUF. Esto facilita la integración en pipelines de software ya existentes.
Para aquellos interesados en la personalización profunda, la versión BF16 permite realizar técnicas de post-entrenamiento para adaptar el modelo a dominios específicos. NVIDIA también integra este modelo en su ecosistema de herramientas para facilitar el despliegue en hardware optimizado, como las nuevas laptops NVIDIA RTX Spark.