Ciencia · IA · UC San Diego · Seguridad
UC San Diego estudia cómo retirar puertas traseras de clasificadores de imágenes
El método ETF-FT reajusta la geometría de la última capa y utiliza una pequeña muestra de datos limpios.
Fecha de la fuente original:
Lo esencial
- El método ETF-FT reajusta la geometría de la última capa y utiliza una pequeña muestra de datos limpios.
- Evaluación en clasificación de imágenes; precisión limpia y eliminación del ataque varían según configuración.
Reajuste después del entrenamiento
npj Artificial Intelligence publicó el estudio de UC San Diego sobre ETF-FT, una técnica que sustituye los pesos de la última capa de un clasificador por una estructura simétrica, los fija y reajusta el resto con datos limpios. Los autores vinculan las puertas traseras introducidas durante el entrenamiento con alteraciones de esa geometría. La publicación formal sigue a un preprint de 2024.
Resultados acotados a visión
Los experimentos abarcan redes convolucionales y transformadores visuales, con CIFAR-10, CIFAR-100 y señales de tráfico. El equipo informa de reducciones de la tasa de éxito de varios ataques, pero reconoce pérdidas de precisión en algunas configuraciones y ataques difíciles de eliminar. La evaluación no incluye ImageNet ni acredita resultados en modelos de lenguaje o voz.