Hugging Face와 함께 SetFit 사용

SetFit는 Sentence Transformers의 소수 샘플 파인튜닝을 위한 효율적이고 프롬프트가 필요 없는 프레임워크입니다. SetFit는 적은 양의 라벨링된 데이터로도 높은 정확도를 달성합니다. 예를 들어, Customer Reviews 감정 데이터셋에서 클래스당 라벨링된 예시 8개만으로도 SetFit는 3,000개 예시로 구성된 전체 학습 세트에서 RoBERTa Large를 파인튜닝한 모델과 경쟁할 수 있습니다 🤯!

기타 few-shot 학습 방법과 비교했을 때, SetFit에는 몇 가지 고유한 특징이 있습니다:

• 🗣 프롬프트 또는 버벌라이저 없음: 현재 few-shot fine-tuning 기법은 예시를 기반 언어 모델에 적합한 형식으로 변환하기 위해 수작업으로 만든 프롬프트나 버벌라이저가 필요합니다. SetFit은 텍스트 예시에서 직접 풍부한 임베딩을 생성하여 프롬프트를 완전히 생략합니다.
• 🏎 빠른 학습: SetFit는 T0나 GPT-3와 같은 대규모 모델 없이도 높은 정확도를 달성할 수 있습니다. 그 결과, 학습 및 추론 실행 속도가 일반적으로 10배 이상(또는 그 이상) 빠릅니다.
• 🌎 다국어 지원: SetFit은 Hub의 모든 Sentence Transformer와 함께 사용할 수 있으므로, 다국어 체크포인트를 미세 조정하기만 하면 여러 언어의 텍스트를 분류할 수 있습니다.

Hub에서 SetFit 탐색하기

모델 페이지 왼쪽에서 필터링하여 SetFit 모델을 찾을 수 있습니다.

Hub의 모든 모델에는 다음 유용한 기능이 포함되어 있습니다:

1. 간략한 설명이 포함된 자동 생성된 모델 카드
2. 모델을 브라우저에서 직접 실험해 볼 수 있는 인터랙티브 위젯입니다.
3. 추론 요청을 수행할 수 있는 Inference Providers 위젯입니다.

설치

시작하려면 SetFit 설치 가이드를 따를 수 있습니다. 또한 다음 한 줄 명령을 통해 pip로 설치할 수도 있습니다:

pip install -U setfit

기존 모델 사용

모든 setfit 모델은 Hub에서 쉽게 로드할 수 있습니다.

from setfit import SetFitModel

model = SetFitModel.from_pretrained("tomaarsen/setfit-paraphrase-mpnet-base-v2-sst2-8-shot")

로드가 완료되면 SetFitModel.predict를 사용하여 추론을 수행할 수 있습니다.

model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

['positive', 'negative']

특정 SetFit 모델을 로드하려면 Use in SetFit를 클릭하면 작동하는 스니펫을 받을 수 있습니다!

추가 리소스

• Hub에서 사용할 수 있는 모든 SetFit 모델
• SetFit 저장소
• SetFit 문서
• SetFit 논문