Blog

GShard: El modelo de lenguaje revolucionario de Google con 600 mil millones de parámetros

Google lanza GShard en junio de 2020, el primer modelo de expertos múltiples (MoE) a escala masiva con 600B de parámetros dedicado a la traducción automática.