Temas avanzados

En esta página nuestro objetivo es ofrecer más detalles sobre las clases y funciones ubicadas en el repositorio de GitHub.

inferencia/linker.py

clase EntityLinker

Crea una tubería de un transformador de reconocimiento de entidades y un transformador de oraciones para generar incrustaciones de texto.

Parámetros de inicialización

entity_model : str, default='tabiya/roberta-base-job-ner' Ruta a un AutoModelForTokenClassification modelo preentrenado o un AutoModelCrfForNer modelo. Este modelo se utiliza para el reconocimiento de entidades dentro del texto de entrada.

similarity_model : str, default='all-MiniLM-L6-v2' Ruta o nombre de un modelo de transformador de oraciones usado para generar incrustaciones de texto. El transformador de oraciones se usa para calcular incrustaciones de las entidades extraídas y de los conjuntos de referencia. El modelo 'all-mpnet-base-v2' está disponible pero no está en caché, por lo que debe usarse con el parámetro from_cache=False al menos la primera vez.

crf : bool, default=False Una bandera para indicar si se debe usar un AutoModelCrfForNer modelo en lugar de un estándar AutoModelForTokenClassification. CRF Los modelos (Campo Aleatorio Condicional) se utilizan cuando la tarea requiere predicciones secuenciales con dependencias entre las salidas.

evaluation_mode : bool, default=False Si se establece en True, el enlazador devolverá las puntuaciones de similitud coseno entre las incrustaciones. Este modo es útil para evaluar la calidad de las vinculaciones.

k : int, default=32 Especifica el número de elementos a recuperar de los conjuntos de referencia. Este parámetro limita el número de mejores coincidencias a considerar al enlazar entidades.

from_cache : bool, default=True Si se establece en True, las incrustaciones precalculadas se cargan desde la caché para ahorrar tiempo. Si se establece en False, las incrustaciones se calculan sobre la marcha, lo que requiere acceso a GPU para ser eficiente y puede llevar mucho tiempo.

output_format : str, default='occupation' Especifica el formato de salida para ocupaciones, ya sea ocupación, etiqueta preferida, esco_code, uuid o todo para obtener todas las columnas. El uuid también está disponible para las habilidades.

Parámetros de llamada

text : str Una cadena arbitraria relacionada con una vacante de empleo.

linking : bool, default=True Especifica si el modelo realiza el enlace de entidades con la taxonomía.

clase FrenchEntityLinker

Versión francesa del enlazador de entidades. Para usarlo, necesitamos reescribir las bases de datos de referencia a la versión francesa de ESCO.

inferencia/evaluator.py

clase Evaluator(EntityLinker)

Clase Evaluator que hereda del Entity Linker. Calcula las consultas, el corpus, el corpus invertido y los documentos relevantes para el InformationRetrievalEvaluator, realiza el enlace de entidades y calcula las métricas de recuperación de información.

Parámetros de inicialización

entity_type: str Ocupación, Habilidad o Cualificación para determinar el conjunto exacto de evaluación que se usará.

util/transformersCRF.py

clase CRF(nn.Module)

Implementado a partir de aquí.

Una clase que crea un modelo lineal de Campo Aleatorio Condicional.

clase AutoModelForCrfPretrainedConfig(PretrainedConfig)

Clase de configuración que hereda de PretrainedConfig clase de HuggingFace.

clase AutoModelCrfForNer(PreTrainedModel)

Una clase general que hereda de clase PreTrainedModel de HuggingFace clase. El model_type se detecta automáticamente.

model_type: str Las opciones posibles incluyen BertCrfForNer, RobertaCrfForNer y DebertaCrfForNer.

clase BERT_CRF_Config(PretrainedConfig)

Clase personalizada usada para configurar BERT para CRF.

clase BertCrfForNer(PreTrainedModel)

Modelo CRF basado en BERT que hereda de clase PreTrainedModel de HuggingFace clase.

Igual que clase PreTrainedModel de HuggingFace.

Parámetros de forward

Igual que clase PreTrainedModel de HuggingFace excepto por

special_tokens_mask predeterminado: None. Usamos esta opción de HuggingFace como un pequeño truco para implementar el special_mask necesario para CRF.

clase ROBERTA_CRF_Config(PretrainedConfig)

Clase personalizada usada para configurar RoBERTa para CRF.

clase RobertaCrfForNer(PreTrainedModel)

Modelo CRF basado en RoBERTa que hereda de clase PreTrainedModel de HuggingFace clase.

Igual que clase PreTrainedModel de HuggingFace.

Parámetros de forward

Igual que clase PreTrainedModel de HuggingFace excepto por

special_tokens_mask predeterminado: None. Usamos esta opción de HuggingFace como un pequeño truco para implementar el special_mask necesario para CRF.

clase DEBERTA_CRF_Config(PretrainedConfig)

Clase personalizada usada para configurar RoBERTa para CRF.

clase DebertaCrfForNer(PreTrainedModel)

Modelo CRF basado en RoBERTa que hereda de clase PreTrainedModel de HuggingFace clase.

Igual que clase PreTrainedModel de HuggingFace.

Parámetros de forward

Igual que clase PreTrainedModel de HuggingFace excepto por

special_tokens_mask predeterminado: None. Usamos esta opción de HuggingFace como un pequeño truco para implementar el special_mask necesario para CRF.

util/utilfunctions.py

clase Config

Clase de configuración para los hiperparámetros de entrenamiento.

clase CPU_Unpickler

Una clase que carga los tensores en la CPU.