PEFT documentation
AutoPeftModels
はじめに
ガイド
設定とモデル統合 メモリ効率の良い学習モデルのマージ量子化カスタムモデルアダプター注入PEFT メソッドの組み合わせtorch.compilePEFTへの貢献トラブルシューティングPEFTチェックポイント形式
分散学習
メソッド
API リファレンス
AutoPeftModels
AutoPeftModel クラスは、設定ファイルからタスクの種類を自動的に推論し、適切な PEFT モデルを読み込みます。これらは、どのモデルクラスが必要かや、PeftConfig を手動で読み込む必要を気にすることなく、1 行のコードで PEFT モデルを素早く簡単に読み込むことを目的に設計されています。
AutoPeftModel
from_pretrained
< source >( pretrained_model_name_or_pathadapter_name: str = 'default'is_trainable: bool = Falseconfig: Optional[PeftConfig] = Nonerevision: Optional[str] = Noneimport_allowlist: Optional[list[str]] = None**kwargs )
PEFTモデルを読み込むためにユーザーが実行する必要があるすべての前処理ステップをラップするクラスです。kwargsはPeftConfigに渡され、Hubメソッドのkwargsとconfigオブジェクトのinitのフィルタリングが自動的に処理されます。
パラメータはPeftModel.from_pretrained()のものと同等です。違いについては以下に記載しています。
AutoPeftModelForCausalLM
AutoPeftModelForSeq2SeqLM
AutoPeftModelForSequenceClassification
AutoPeftModelForTokenClassification
AutoPeftModelForQuestionAnswering
AutoPeftModelForFeatureExtraction
Update on GitHub