Global · IA · Agentes · Google · Privacidad
Google publica una agenda de seguridad contextual para agentes de IA
Un informe de taller propone controles que evalúen quién recibe datos y qué acciones son apropiadas en cada tarea.
Fecha de la fuente original:
Lo esencial
- La privacidad depende de participantes, datos y propósito del intercambio.
- Una capa supervisora comprobaría las acciones antes de ejecutarlas.
- La agenda combina controles del sistema, modelo y usuario; quedan problemas abiertos.
Del permiso al contexto
Google Research difundió un informe de un taller de 2025 con más de cincuenta participantes académicos e industriales. Plantea que autorizar acceso a información no resuelve cómo compartirla. Una lista de regalos puede servir a un asistente de compras sin estar destinada a familiares.
Por qué cambian los controles
Los agentes interpretan instrucciones ambiguas, generan planes probabilísticos y delegan tareas. Eso dificulta anticipar recorridos y puede provocar fatiga por confirmaciones. La propuesta contempla políticas dinámicas que revisen si un flujo de datos es apropiado antes de que salga del espacio de trabajo.
Defensas y pruebas
Los autores combinan aislamiento, permisos adaptables, razonamiento contextual y controles comprensibles. Proponen evaluaciones multiagente para simular interacciones prolongadas y efectos en cadena. Investigan cómo resolver normas contradictorias entre organizaciones; son líneas de investigación, sin una garantía de seguridad presentada.