Model Releases
OLMo 2 de Allen AI: Transparencia Total y Rendimiento Superior
Allen AI presenta OLMo 2 con pesos y datos abiertos bajo Apache 2.0, desafiando a los modelos propietarios en benchmarks críticos.
6 de enero de 2025
Model ReleaseOLMo 2
Introducción: La Nueva Era de la IA Abierta
Allen AI ha marcado un hito significativo en el panorama de la inteligencia artificial con el lanzamiento oficial de OLMo 2 el 6 de enero de 2025. Este modelo representa un cambio de paradigma debido a su compromiso inigualable con la transparencia y la reproducibilidad. A diferencia de los modelos cerrados que dominan el mercado actual, OLMo 2 no solo libera los pesos, sino que incluye el conjunto completo de datos de entrenamiento, el código de entrenamiento y los criterios de evaluación detallados.
Esta decisión estratégica permite a los ingenieros auditar el comportamiento del modelo, reduciendo riesgos de sesgo y mejorando la confianza en aplicaciones críticas. La adopción de la licencia Apache 2.0 garantiza que cualquier desarrollador pueda modificar, distribuir y utilizar el modelo comercialmente sin restricciones legales. Esto democratiza el acceso a tecnología de punta, permitiendo que startups y grandes empresas construyan soluciones personalizadas sin depender de proveedores centralizados.
- Fecha de lanzamiento: 6 de enero de 2025
- Licencia: Apache 2.0
- Transparencia total: Pesos, datos y código
- Propósito: Investigación y desarrollo comercial
Características Clave y Arquitectura
La arquitectura de OLMo 2 se centra en la eficiencia y la escalabilidad para satisfacer las demandas modernas de procesamiento de lenguaje natural. El modelo ofrece dos variantes principales: OLMo 2 7B y OLMo 2 13B, diseñadas para equilibrar rendimiento y costo computacional. Ambos modelos cuentan con ventanas de contexto de 128K tokens, permitiendo el procesamiento de documentos extensos y contextos conversacionales largos sin perder coherencia.
El modelo 13B compite directamente con Gemma 2 9B en tareas complejas, mientras que el 7B rivaliza con Llama 3.1 8B en eficiencia. Una característica clave es el entrenamiento masivo en 4 a 5 trillones de tokens, lo que proporciona una comprensión profunda del mundo real. Además, el soporte multimodal permite la comprensión de imágenes y texto en una sola inferencia, ampliando su utilidad en entornos empresariales complejos donde la integración de datos visuales es crucial.
- Tamaños: 7B y 13B parámetros
- Ventana de contexto: 128K tokens
- Tokens de entrenamiento: 4T-5T
- Capacidad: Texto e imágenes
Rendimiento y Benchmarks
En términos de rendimiento, OLMo 2 muestra mejoras sustanciales sobre su predecesor OLMo 1. El modelo logró un aumento de 9 puntos en el benchmark MMLU, superando el puntaje anterior y acercándose a los modelos propietarios de gran escala. En HumanEval, que mide la capacidad de generación de código, OLMo 2 alcanza un 85% de precisión, comparable a modelos propietarios de gran escala.