Model Releases
Vicuna de LMSYS: El modelo de código abierto que logra el 90% del rendimiento de ChatGPT
Descubre cómo Vicuna 13B revoluciona la IA abierta con un 90% de la calidad de ChatGPT, entrenado sobre conversaciones de ShareGPT y licencia libre.
30 de marzo de 2023
Model ReleaseVicuna
Introducción
En marzo de 2023, la organización LMSYS lanzó Vicuna-13B, un hito significativo en el ecosistema de modelos de lenguaje de código abierto. Este modelo representa una evolución impresionante de la arquitectura LLaMA de Meta, transformándolo en un asistente de conversación de alta calidad que alcanza aproximadamente el 90% del rendimiento de ChatGPT según evaluaciones preliminares.
La importancia de Vicuna radica en democratizar el acceso a modelos conversacionales avanzados sin las restricciones de propiedad cerrada. Al ser completamente de código abierto, permite a investigadores, desarrolladores y empresas experimentar con modelos de última generación sin depender de APIs comerciales costosas o propietarias.
El modelo se ha convertido en un referente para la comunidad de IA abierta, demostrando que los modelos bien entrenados pueden competir directamente con soluciones comerciales líderes. Su lanzamiento también impulsó la creación de la plataforma Chatbot Arena, donde diferentes modelos compiten en enfrentamientos ciegos.
La arquitectura basada en LLaMA permite una implementación eficiente en hardware convencional, reduciendo significativamente los costos de inferencia comparados con soluciones propietarias.
Características Clave y Arquitectura
Vicuna-13B está construido sobre la base de la arquitectura LLaMA (Large Language Model Meta AI) de 13 mil millones de parámetros, con ajustes supervisados específicos para tareas de conversación. El modelo también cuenta con versiones de 7B y variantes posteriores como v1.5 que utilizan Llama 2 como base.
El proceso de fine-tuning se realizó utilizando aproximadamente 125,000 conversaciones multipaso recolectadas de ShareGPT, lo que proporciona al modelo una comprensión profunda del contexto conversacional humano. Esta metodología permite que Vicuna maneje diálogos complejos y mantenga coherencia durante interacciones prolongadas.
La ventana de contexto extendida soporta hasta 16,000 tokens en algunas variantes, permitiendo entradas más largas y mejor gestión del historial conversacional. Esta característica es crucial para aplicaciones como documentación técnica, análisis legal o resúmenes académicos.
Las versiones optimizadas incluyen soporte para inferencia eficiente mediante frameworks como vLLM, permitiendo batch processing de hasta 512 solicitudes simultáneas en clusters H100.
- 13 mil millones de parámetros (disponible también en 7B)
- Ventana de contexto de 2048-16000 tokens
- Fine-tuning supervisado sobre conversaciones ShareGPT