TRL documentation

Tutoriales de la comunidad

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.17.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Tutoriales de la comunidad

Los tutoriales de la comunidad son creados por miembros activos de la comunidad de Hugging Face que desean compartir su conocimiento y experiencia con otros. Son una excelente manera de aprender sobre la biblioteca y sus funciones, y de comenzar con las clases y modalidades principales.

Modelos de lenguaje

Tutoriales

TareaClaseDescripciónAutorTutorialColab
Aprendizaje por refuerzoGRPOTrainerEntrenamiento en línea eficiente con GRPO y vLLM en TRLSergio PaniegoEnlaceOpen In Colab
Aprendizaje por refuerzoGRPOTrainerEntrenamiento posterior de un LLM para razonamiento con GRPO en TRLSergio PaniegoEnlaceOpen In Colab
Aprendizaje por refuerzoGRPOTrainerMini-R1: Tutorial de RL para reproducir el «momento aha» de Deepseek R1Philipp SchmidEnlaceOpen In Colab
Aprendizaje por refuerzoGRPOTrainerRL en LLaMA 3.1-8B con GRPO y optimizaciones de UnslothAndrea ManzoniEnlaceOpen In Colab
Ajuste de instruccionesSFTTrainerAjuste fino de los LLM de Google Gemma usando el formato ChatML con QLoRAPhilipp SchmidEnlaceOpen In Colab
Generación estructuradaSFTTrainerAjuste fino de Llama-2-7B para generar catálogos de productos en persa en JSON usando QLoRA y PEFTMohammadreza EsmaeilianEnlaceOpen In Colab
Optimización de preferenciasDPOTrainerAlinear Mistral-7b mediante Direct Preference Optimization para la alineación con las preferencias humanasMaxime LabonneEnlaceOpen In Colab
Optimización de preferenciasexperimental.orpo.ORPOTrainerAjuste fino de Llama 3 con ORPO combinando ajuste de instrucciones y alineación de preferenciasMaxime LabonneEnlaceOpen In Colab
Ajuste de instruccionesSFTTrainerCómo ajustar finamente LLMs abiertos en 2025 con Hugging FacePhilipp SchmidEnlaceOpen In Colab
Razonamiento a nivel de pasoGRPOTrainerAprendizaje por refuerzo supervisado (SRL) para razonamiento paso a paso con vLLMDeepak SwaminathanEnlaceOpen In Colab

Videos

TareaTítuloAutorVideo
Ajuste de instruccionesAjuste fino de modelos de IA abiertos usando Hugging Face TRLWietse Venema
Ajuste de instruccionesCómo ajustar un smol-LM con Hugging Face, TRL y el conjunto de datos smoltalkMayurji
⚠️ Deprecated features notice for "How to fine-tune a smol-LM with Hugging Face, TRL, and the smoltalk Dataset" (click to expand)

El tutorial utiliza dos funciones obsoletas:

  • SFTTrainer(..., tokenizer=tokenizer): usa SFTTrainer(..., processing_class=tokenizer) en su lugar, o simplemente omítelo (se inferirá a partir del modelo).
  • setup_chat_format(model, tokenizer): use SFTConfig(..., chat_template_path="Qwen/Qwen3-0.6B"), donde chat_template_path especifica el modelo cuya plantilla de chat deseas copiar.

Modelos de lenguaje visual

Tutoriales

TareaClaseDescripciónAutorTutorialColab
QA visualSFTTrainerAjuste fino de Qwen2-VL-7B para la respuesta a preguntas visuales en el conjunto de datos ChartQASergio PaniegoEnlaceOpen In Colab
QA visualSFTTrainerAjuste fino de SmolVLM con TRL en una GPU de consumoSergio PaniegoEnlaceOpen In Colab
Descripción SEOSFTTrainerAjuste fino de Qwen2-VL-7B para generar descripciones aptas para SEO a partir de imágenesPhilipp SchmidEnlaceOpen In Colab
QA visualDPOTrainerPaliGemma 🤝 Direct Preference OptimizationMerve NoyanEnlaceOpen In Colab
QA visualDPOTrainerAjuste fino de SmolVLM mediante optimización de preferencias directas (DPO) con TRL en una GPU de consumoSergio PaniegoEnlaceOpen In Colab
Grounding de detección de objetosSFTTrainerAjuste fino de un VLM para la localización de objetos mediante TRLSergio PaniegoEnlaceOpen In Colab
QA visualDPOTrainerAjuste fino de un modelo de visión y lenguaje con TRL usando MPOSergio PaniegoEnlaceOpen In Colab
Aprendizaje por refuerzoGRPOTrainerEntrenamiento posterior de un VLM para razonamiento con GRPO usando TRLSergio PaniegoEnlaceOpen In Colab

Modelos de lenguaje para el habla

Tutoriales

TareaClaseDescripciónAutorTutorial
Texto a vozGRPOTrainerEntrenamiento posterior de un modelo de lenguaje de voz con GRPO usando TRLSteven ZhengEnlace

Contribuir

Si tienes un tutorial que te gustaría añadir a esta lista, abre un PR para agregarlo. Lo revisaremos y lo fusionaremos si es relevante para la comunidad.

Update on GitHub