TRL documentation

MergeModelCallback

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.18.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

classe trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

Parâmetros

  • merge_config (experimental.merge_model_callback.MergeConfig, opcional) — Configuração usada para o processo de mesclagem. Se não for fornecida, a configuração padrão MergeConfig é utilizada.
  • merge_at_every_checkpoint (bool, opcional, padrão False) — Se o modelo deve ser mesclado a cada checkpoint.
  • push_to_hub (bool, opcional, padrão False) — Se deve enviar o modelo mesclado para o Hub após a mesclagem.

Um TrainerCallback que mescla o modelo de política (o modelo em treinamento) com outro modelo com base em uma configuração de mesclagem.

Exemplo:

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub