.jpg){kind=link}
Global · IA · NVIDIA · Análisis
Análisis: Dory y la IA local, ahorrar memoria no equivale a razonar gratis
Una prueba en Mac M4 ayuda a separar el consumo de caché, el cómputo adicional y la calidad de las respuestas.
Fecha de la fuente original:
Hecho reportado: 2026-10-17
Lo esencial
- Dory reutiliza un bloque de capas; aumentar los ciclos añade trabajo computacional por token.
- El modo last_loop mantiene una sola caché recurrente, pero requiere configuración explícita.
- El ensayo local no establece una mejora de precisión ni ofrece velocidades directamente comparables.
Un modelo que repite capas
NVIDIA publicó Dory 1.0 el 16 de octubre: un modelo de 4.000 millones de parámetros que repite un bloque interno para dedicar más cómputo a cada token. Este análisis fue redactado el 19 para la edición del 18.
Lo que muestra una prueba local
Hack-Log publicó un ensayo en un Mac M4 con 16 GB el 18 de octubre a las 08:01 de Japón, equivalente al 17 a las 17:01 en Costa Rica. Con caché separada por ciclo, registró un aumento de 1.314 a 3.504 MiB al pasar de uno a cuatro ciclos. Al conservar solo la caché del último ciclo, registró 1.314 MiB en las tres configuraciones probadas. Es una medición de esa instalación y de esa caché, no del consumo total del modelo.
El equilibrio que importa
La documentación de NVIDIA explica que el modo de caché debe configurarse expresamente. Ahorrar esa memoria no elimina el trabajo computacional adicional. Hack-Log no completó una comparación de precisión y empleó condiciones diferentes en sus mediciones de velocidad; este único ensayo, publicado bajo seudónimo, no permite concluir una mejora general.
Nuestra lectura
El interés de Dory está en explorar ese equilibrio con un modelo pequeño. Una evaluación útil necesita tareas, configuración y hardware comparables, y debe medir por separado calidad, latencia y memoria. Los resultados de referencia del fabricante siguen siendo sus propias mediciones; esta redacción no ha reproducido el ensayo de Hack-Log.