IA · Modelos · NVIDIA · Nemotron
NVIDIA presenta Nemotron-Labs Diffusion, una familia con tres modos de generación
Los modelos combinan generación secuencial, difusión y verificación de sus propios borradores.
Fecha de la fuente original:
Lo esencial
- Los modelos combinan generación secuencial, difusión y verificación de sus propios borradores.
Un modelo, tres formas de escribir
NVIDIA publicó Nemotron-Labs Diffusion, una familia de modelos de 3.000, 8.000 y 14.000 millones de parámetros. La propuesta reúne generación autorregresiva, difusión y autoespeculación: el modelo puede redactar varios tokens en paralelo y comprobar después el borrador con generación secuencial.
Resultados ligados al entorno de prueba
El equipo presenta variantes base, ajustadas para instrucciones y de visión y lenguaje. Su evaluación atribuye al modelo de 8.000 millones un rendimiento de procesamiento cuatro veces superior al de referencia en SPEED-Bench con SGLang y una GPU GB200. Es una medición del equipo bajo esa configuración, no una aceleración uniforme para cualquier aplicación.