IA · Modelos · Google · Gemma · IA local
Google publica versiones comprimidas de Gemma 4 para móviles y portátiles
El entrenamiento consciente de la cuantización busca reducir memoria manteniendo la calidad de los modelos.
Fecha de la fuente original:
Lo esencial
- El entrenamiento consciente de la cuantización busca reducir memoria manteniendo la calidad de los modelos.
Compresión incorporada al entrenamiento
Google publicó nuevos pesos de Gemma 4 con entrenamiento consciente de la cuantización, conocido como QAT. El procedimiento incorpora durante el entrenamiento los efectos de comprimir el modelo, en lugar de aplicar toda la reducción de precisión al final.
La memoria depende de la configuración
El lanzamiento incluye formato Q4_0 y una variante optimizada para móviles E2B y E4B. Google sitúa en torno a 1 GB la memoria de E2B con el formato móvil; la configuración solo de texto y sin embeddings por capa baja de ese umbral. También ofrece formatos para herramientas de ejecución local y GPU. Las necesidades de memoria dependen de la variante y de las modalidades cargadas, por lo que esa cifra no describe toda la familia.