Global · IA · Inferencia · Programación · Software · Gemma
llama.cpp incorpora un analizador específico para las llamadas a herramientas de Gemma 4
La compilación b8665 adapta la interpretación del formato de conversación y conserva el razonamiento entre turnos.
Fecha de la fuente original:
Lo esencial
- Analizador y plantilla específicos publicados en b8665.
Del texto del modelo a una llamada estructurada
El motor llama.cpp publicó un analizador dedicado al formato de Gemma 4. La modificación sustituye su interpretación mediante el analizador genérico y convierte las llamadas a herramientas en estructuras JSON que puede utilizar la aplicación que ejecuta el modelo.
Conversaciones con razonamiento intercalado
La actualización incorpora una plantilla específica para admitir razonamiento intercalado y conservarlo en los turnos del modelo. También ajusta el reconocimiento de respuestas de herramientas y añade pruebas del procesamiento del formato. El cambio amplía la integración de Gemma 4 en este motor de inferencia; es una actualización del software que ejecuta los modelos, no una nueva versión de los pesos de Google.