IA · Modelos · Google · Gemma · Código abierto
Google publica DiffusionGemma para generar bloques de texto en paralelo
El modelo experimental abierto prioriza baja latencia local y explicita un intercambio entre velocidad y calidad.
Fecha de la fuente original:
Lo esencial
- El modelo experimental abierto prioriza baja latencia local y explicita un intercambio entre velocidad y calidad.
Difusión aplicada al lenguaje
Google presentó DiffusionGemma, un modelo experimental con licencia Apache 2.0 que genera y refina bloques de texto, en lugar de producir cada token consecutivamente. La arquitectura de mezcla de expertos tiene 26.000 millones de parámetros totales y activa 3.800 millones. Su generación paralela está orientada a edición interactiva y otros trabajos locales de baja latencia.
Velocidad para cargas de baja concurrencia
Google reporta aceleraciones de hasta cuatro veces en sus pruebas con GPU dedicadas. También reconoce que la calidad general es inferior a la de Gemma 4 convencional. La ventaja se concentra en pocas solicitudes simultáneas; con gran concurrencia en la nube disminuye y puede aumentar el coste de servicio.