IA · Modelos · Google · Google Cloud · Model Armor · Seguridad
Google actualiza Model Armor y permite elegir la versión de sus filtros
La versión v3 incorpora otro modelo de detección de instrucciones maliciosas y aparece bajo el alias Latest.
Fecha de la fuente original:
Lo esencial
- La versión v3 incorpora otro modelo de detección de instrucciones maliciosas y aparece bajo el alias Latest.
- Las mejoras de detección son afirmaciones de Google; la entrada no ofrece métricas comparativas.
Un nuevo filtro para entradas adversarias
Google Cloud anunció una nueva versión de los filtros de Model Armor, su servicio para revisar instrucciones y respuestas de aplicaciones con IA. La actualización v3 incorpora un modelo renovado para detectar inyecciones de instrucciones y jailbreaks, los intentos de alterar las reglas de un sistema mediante su entrada.
Versiones elegibles por el desarrollador
La misma entrega permite seleccionar versiones por número o mediante los alias Latest, Stable y Legacy. En el lanzamiento, v3 quedó bajo Latest. Google atribuye al nuevo modelo menos falsos positivos y mejoras de detección y mitigación, pero la entrada no publica tasas de error ni resultados comparativos.