Global · Robótica · IA · Seguridad
DRIVE-SAFE evalúa cómo responde una IA a nuevas reglas de seguridad
La investigación de Maryland utiliza conducción virtual para detectar mejoras y conflictos entre objetivos de seguridad.
Fecha de la fuente original:
Lo esencial
- La investigación de Maryland utiliza conducción virtual para detectar mejoras y conflictos entre objetivos de seguridad.
Reglas que evolucionan con el sistema
Un equipo de la Universidad de Maryland presentó DRIVE-SAFE, un método para evaluar políticas autónomas mediante sus trayectorias observadas. Convierte requisitos de seguridad en reglas temporales y utiliza los incumplimientos para orientar el reentrenamiento del modelo.
La prueba revela compromisos
Los experimentos se realizaron en Super Mario Kart. Tras un ajuste, el cumplimiento del límite de velocidad pasó de 0 a 72 de 100 recorridos. Al endurecer las condiciones aparecieron conflictos: mejoró el control de velocidad, pero empeoró la evitación de obstáculos. El trabajo ofrece una herramienta experimental de evaluación; su transferencia a conducción real requiere pruebas adicionales.