IA · Ciencia · Auditoría de IA · Cambridge · Tsinghua · InfoTracer
InfoTracer busca rastrear qué textos utilizó una IA para entrenarse
El método analiza respuestas del modelo sin necesitar sus probabilidades internas y se probó con trece modelos y seis conjuntos de datos.
Fecha de la fuente original:
Lo esencial
- El método analiza respuestas del modelo sin necesitar sus probabilidades internas y se probó con trece modelos y seis conjuntos de datos.
- InfoTracer estima estadísticamente la presencia de datos en el entrenamiento. La incertidumbre sobre los datos de modelos cerrados limita sus conclusiones.
Buscar huellas de memorización
Nature Communications publicó InfoTracer, un método de auditoría de datos con participación de Cambridge y Tsinghua. El sistema enmascara elementos de textos sospechosos y compara cómo una IA distingue la respuesta original de alternativas plausibles. Así busca señales de memorización sin acceder a las probabilidades internas del modelo.
Más evidencia, con límites de validación
El estudio incluye trece modelos y seis conjuntos de datos. Los autores reportan una mejor separación entre textos usados y no usados al reunir más evidencia. El método se limita a texto; en servicios cerrados, conocer con certeza qué documentos integraron el entrenamiento sigue siendo una dificultad que puede introducir sesgos en la evaluación.