Utiliser SetFit avec Hugging Face

SetFit est un framework efficace et sans prompt pour l’ajustement fin en peu d’exemples de Sentence Transformers. Il atteint une précision élevée avec peu de données étiquetées : par exemple, avec seulement 8 exemples étiquetés par classe sur le jeu de données de sentiments Customer Reviews, SetFit est compétitif avec l’ajustement fin de RoBERTa Large sur l’ensemble d’entraînement complet de 3k exemples 🤯 !

Par rapport à d'autres méthodes d'apprentissage en peu d'exemples, SetFit présente plusieurs caractéristiques uniques :

• 🗣 Aucun prompt ni verbaliseur : Les techniques actuelles de fine-tuning en few-shot nécessitent des prompts ou des verbaliseurs élaborés à la main pour convertir les exemples dans un format adapté au modèle de langage sous-jacent. SetFit se passe totalement de prompts en générant des embeddings riches directement à partir des exemples de texte.
• 🏎 Entraînement rapide : SetFit n’a pas besoin de modèles de grande taille comme T0 ou GPT-3 pour atteindre une haute précision. En conséquence, l’entraînement et l’inférence y sont généralement un ordre de grandeur (ou plus) plus rapides.
• 🌎 Prise en charge multilingue : SetFit peut être utilisé avec n'importe quel Sentence Transformer du Hub, ce qui signifie que vous pouvez classifier du texte dans plusieurs langues en affinant simplement un point de contrôle multilingue.

Explorer SetFit sur le Hub

Vous pouvez trouver les modèles SetFit en filtrant à gauche de la page des modèles.

Tous les modèles du Hub disposent de ces fonctionnalités utiles :

1. Une carte de modèle générée automatiquement avec une brève description.
2. Un widget interactif que vous pouvez utiliser pour tester le modèle directement dans le navigateur.
3. Un widget Inference Providers qui vous permet d’effectuer des requêtes d’inférence.

Installation

Pour commencer, vous pouvez suivre le guide d'installation de SetFit. Vous pouvez également utiliser l'installation en une ligne suivante via pip :

pip install -U setfit

Utilisation de modèles existants

Tous les modèles setfit peuvent être chargés facilement depuis le Hub.

from setfit import SetFitModel

model = SetFitModel.from_pretrained("tomaarsen/setfit-paraphrase-mpnet-base-v2-sst2-8-shot")

Une fois chargée, vous pouvez utiliser SetFitModel.predict pour effectuer l'inférence.

model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

['positive', 'negative']

Si vous souhaitez charger un modèle SetFit spécifique, vous pouvez cliquer sur Use in SetFit et un extrait de code fonctionnel vous sera fourni !

Ressources supplémentaires

• Tous les modèles SetFit disponibles sur le Hub
• Dépôt SetFit
• SetFit documentation
• Article SetFit