IA · Modelos · Ciencia · Seguridad · PolyU · Llama · Qwen · DeepSeek
Un estudio prueba la fragilidad de las barreras de seguridad en modelos abiertos
Los investigadores evaluaron 26 variantes con entradas adversarias fuera de sus formatos habituales de conversación.
Fecha de la fuente original:
Lo esencial
- Los investigadores evaluaron 26 variantes con entradas adversarias fuera de sus formatos habituales de conversación.
- Los resultados se limitan a los modelos, versiones y clasificadores evaluados en el experimento.
Pruebas fuera del formato habitual
Nature Communications publicó un estudio de PolyU y Northwestern Polytechnical University sobre fallos de seguridad al alterar las condiciones de entrada de modelos abiertos. El trabajo, con un preprint de abril de 2025, evaluó 26 variantes de familias como Llama, Qwen y DeepSeek con 300 casos de HarmBench.
Un resultado condicionado al experimento
El equipo reporta respuestas clasificadas como perjudiciales en todos los casos de prueba para 22 variantes. La evaluación empleó un clasificador automático y acceso al modelo para modificar formatos y seleccionar continuaciones. Son condiciones experimentales específicas: el resultado no equivale a una medición de las aplicaciones comerciales que añaden sus propias capas de seguridad.