Global · IA · Modelos · Ciencia · Stanford · UC San Diego
ForTIFAI publica una estrategia para retrasar el colapso de modelos entrenados con datos sintéticos
El estudio de UC San Diego y Stanford llega a una revista científica tras circular como preprint en 2025.
Fecha de la fuente original:
Lo esencial
- La función de pérdida modifica qué tokens contribuyen al aprendizaje.
Menos peso a la confianza excesiva
npj Artificial Intelligence publicó el 4 de julio la investigación ForTIFAI, de UC San Diego y Stanford. El trabajo estudia cómo reducir la degradación de modelos que vuelven a entrenarse con sus propias respuestas. Su método rebaja o elimina del cálculo de aprendizaje los tokens que el modelo predice con una confianza excesiva.
Reentrenamiento y cronología científica
Los autores informan que, en sus pruebas de reentrenamiento, la técnica toleró más de 2,3 veces la cantidad de datos sintéticos antes de alcanzar el umbral de fallo. La evaluación combina texto original y generado; no reproduce todavía un ecosistema de muchos modelos distintos. La publicación revisada por pares es el hito de julio: el preprint ya estaba en arXiv en 2025 y la revista identifica una versión final posterior, del 25 de septiembre.