Global · IA · Modelos · NeuML · Código abierto
NeuML publica CeleBERTy Small para textos de arte y entretenimiento
La familia incluye un modelo base de 22,7 millones de parámetros y una variante para búsqueda semántica.
Fecha de la fuente original:
Lo esencial
- CeleBERTy Small ofrece un modelo base compacto y otro de representaciones vectoriales bajo Apache 2.0.
Una familia compacta especializada
NeuML presentó CeleBERTy Small, una familia de modelos compactos entrenados con artículos de Wikipedia seleccionados por temas de cultura, arte y entretenimiento. El lanzamiento incluye un codificador BERT de 22,7 millones de parámetros y una versión que convierte textos en vectores para comparar su significado. Ambos se distribuyen bajo Apache 2.0.
Herramientas para construir buscadores
El modelo base puede ajustarse para clasificación, extracción de entidades u otras tareas. La variante de representaciones vectoriales se entrenó mediante destilación de DenseOn. El anuncio publica código de entrenamiento y enlaces a los modelos y datos, orientados a quienes necesitan desarrollar sistemas especializados de búsqueda.