Código abierto · Global · IA · Mistral · Modelos · Seguridad
Shieldstral abre un clasificador de seguridad para texto e imágenes
El modelo de Mistral acepta políticas escritas en lenguaje natural al evaluar contenido.
Fecha de la fuente original:
Lo esencial
- Las políticas se suministran durante la inferencia y no requieren reentrenar el modelo para cada cambio.
Moderación definida por políticas
Mistral publicó Shieldstral, un clasificador multimodal de 3.000 millones de parámetros con pesos bajo Apache 2.0. Cada evaluación combina instrucciones, una pregunta de sí o no y el contenido que se quiere revisar, incluidas imágenes o pares de solicitud y respuesta.
Pesos y requisitos de ejecución
En lugar de fijar todas las categorías dentro del entrenamiento, el sistema recibe la política al hacer la consulta y devuelve una puntuación continua. Según Mistral, funciona en una GPU de 16 GB. La compañía continúa trabajando en cobertura multilingüe, documentos largos y seguridad multimodal.