TRL documentation
Tutoriales de la comunidad
Primeros pasos
Guías conceptuales
Trainers
Guías de uso
Interfaz de línea de comandos (CLI)Entrenamiento con JobsPersonalización del entrenamientoReducción del uso de memoriaAcelerar el entrenamientoDistribución del entrenamientoEntrenamiento en AWS TrainiumEntrenamiento en GPUs de AMDEntrenamiento con más de 1M de tokensUso de modelos entrenados
Integraciones
Ejemplos
API
Experimental
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v1.17.1).
Tutoriales de la comunidad
Los tutoriales de la comunidad son creados por miembros activos de la comunidad de Hugging Face que desean compartir su conocimiento y experiencia con otros. Son una excelente manera de aprender sobre la biblioteca y sus funciones, y de comenzar con las clases y modalidades principales.
Modelos de lenguaje
Tutoriales
| Tarea | Clase | Descripción | Autor | Tutorial | Colab |
|---|---|---|---|---|---|
| Aprendizaje por refuerzo | GRPOTrainer | Entrenamiento en línea eficiente con GRPO y vLLM en TRL | Sergio Paniego | Enlace | |
| Aprendizaje por refuerzo | GRPOTrainer | Entrenamiento posterior de un LLM para razonamiento con GRPO en TRL | Sergio Paniego | Enlace | |
| Aprendizaje por refuerzo | GRPOTrainer | Mini-R1: Tutorial de RL para reproducir el «momento aha» de Deepseek R1 | Philipp Schmid | Enlace | |
| Aprendizaje por refuerzo | GRPOTrainer | RL en LLaMA 3.1-8B con GRPO y optimizaciones de Unsloth | Andrea Manzoni | Enlace | |
| Ajuste de instrucciones | SFTTrainer | Ajuste fino de los LLM de Google Gemma usando el formato ChatML con QLoRA | Philipp Schmid | Enlace | |
| Generación estructurada | SFTTrainer | Ajuste fino de Llama-2-7B para generar catálogos de productos en persa en JSON usando QLoRA y PEFT | Mohammadreza Esmaeilian | Enlace | |
| Optimización de preferencias | DPOTrainer | Alinear Mistral-7b mediante Direct Preference Optimization para la alineación con las preferencias humanas | Maxime Labonne | Enlace | |
| Optimización de preferencias | experimental.orpo.ORPOTrainer | Ajuste fino de Llama 3 con ORPO combinando ajuste de instrucciones y alineación de preferencias | Maxime Labonne | Enlace | |
| Ajuste de instrucciones | SFTTrainer | Cómo ajustar finamente LLMs abiertos en 2025 con Hugging Face | Philipp Schmid | Enlace | |
| Razonamiento a nivel de paso | GRPOTrainer | Aprendizaje por refuerzo supervisado (SRL) para razonamiento paso a paso con vLLM | Deepak Swaminathan | Enlace |
Videos
| Tarea | Título | Autor | Video |
|---|---|---|---|
| Ajuste de instrucciones | Ajuste fino de modelos de IA abiertos usando Hugging Face TRL | Wietse Venema | ![]() |
| Ajuste de instrucciones | Cómo ajustar un smol-LM con Hugging Face, TRL y el conjunto de datos smoltalk | Mayurji | ![]() |
⚠️ Deprecated features notice for "How to fine-tune a smol-LM with Hugging Face, TRL, and the smoltalk Dataset" (click to expand)
El tutorial utiliza dos funciones obsoletas:
SFTTrainer(..., tokenizer=tokenizer): usaSFTTrainer(..., processing_class=tokenizer)en su lugar, o simplemente omítelo (se inferirá a partir del modelo).setup_chat_format(model, tokenizer): useSFTConfig(..., chat_template_path="Qwen/Qwen3-0.6B"), dondechat_template_pathespecifica el modelo cuya plantilla de chat deseas copiar.
Modelos de lenguaje visual
Tutoriales
| Tarea | Clase | Descripción | Autor | Tutorial | Colab |
|---|---|---|---|---|---|
| QA visual | SFTTrainer | Ajuste fino de Qwen2-VL-7B para la respuesta a preguntas visuales en el conjunto de datos ChartQA | Sergio Paniego | Enlace | |
| QA visual | SFTTrainer | Ajuste fino de SmolVLM con TRL en una GPU de consumo | Sergio Paniego | Enlace | |
| Descripción SEO | SFTTrainer | Ajuste fino de Qwen2-VL-7B para generar descripciones aptas para SEO a partir de imágenes | Philipp Schmid | Enlace | |
| QA visual | DPOTrainer | PaliGemma 🤝 Direct Preference Optimization | Merve Noyan | Enlace | |
| QA visual | DPOTrainer | Ajuste fino de SmolVLM mediante optimización de preferencias directas (DPO) con TRL en una GPU de consumo | Sergio Paniego | Enlace | |
| Grounding de detección de objetos | SFTTrainer | Ajuste fino de un VLM para la localización de objetos mediante TRL | Sergio Paniego | Enlace | |
| QA visual | DPOTrainer | Ajuste fino de un modelo de visión y lenguaje con TRL usando MPO | Sergio Paniego | Enlace | |
| Aprendizaje por refuerzo | GRPOTrainer | Entrenamiento posterior de un VLM para razonamiento con GRPO usando TRL | Sergio Paniego | Enlace |
Modelos de lenguaje para el habla
Tutoriales
| Tarea | Clase | Descripción | Autor | Tutorial |
|---|---|---|---|---|
| Texto a voz | GRPOTrainer | Entrenamiento posterior de un modelo de lenguaje de voz con GRPO usando TRL | Steven Zheng | Enlace |
Contribuir
Si tienes un tutorial que te gustaría añadir a esta lista, abre un PR para agregarlo. Lo revisaremos y lo fusionaremos si es relevante para la comunidad.
Update on GitHub
