IA · Microsoft · Agentes · Seguridad · Código abierto
Microsoft abre RAMPART y Clarity para incorporar seguridad al desarrollo de agentes
Las herramientas convierten escenarios adversarios en pruebas repetibles y documentan decisiones de diseño.
Fecha de la fuente original:
Lo esencial
- Las herramientas convierten escenarios adversarios en pruebas repetibles y documentan decisiones de diseño.
- Rampart y Clarity se presentan como proyectos disponibles para desarrolladores.
Pruebas que acompañan cada cambio
Microsoft publicó RAMPART y Clarity como proyectos de código abierto. RAMPART, construido sobre PyRIT, permite escribir pruebas con pytest para observar cómo un agente usa herramientas y qué efectos produce. Los ensayos pueden integrarse en la ejecución automática de comprobaciones del software y repetirse para medir comportamiento probabilístico.
Decisiones de diseño que quedan registradas
Su cobertura más desarrollada se centra en instrucciones maliciosas insertadas en contenido que el agente consulta. Clarity aborda una etapa anterior: guía conversaciones sobre requisitos, alternativas y posibles fallos, y guarda las decisiones en archivos revisables dentro del repositorio. Las dos herramientas forman un lanzamiento conjunto para equipos de ingeniería; aprobar sus pruebas depende de los escenarios y criterios definidos por cada equipo.