# Transformers

    

Transformers выступает в роли фреймворка для определения моделей передовых моделей машинного обучения в области обработки текста, компьютерного зрения, аудио, видео и мультимодальных моделей, как для инференса, так и для обучения.

Он централизует определение модели, чтобы это определение было согласовано во всей экосистеме. `transformers` выступает связующим звеном между фреймворками: если определение модели поддерживается, оно будет совместимо с большинством фреймворков обучения (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning, ...), движков инференса (vLLM, SGLang, TGI, ...) и смежных библиотек моделирования (llama.cpp, mlx, ...), которые используют определение модели из `transformers`.

Мы обязуемся содействовать появлению новых передовых моделей и популяризировать их использование, обеспечивая простоту, настраиваемость и эффективность их определений.

На [Hugging Face Hub](https://hf.882286.xyzm/models) доступно более 1 млн [model checkpoints](https://huggingface.co/models?library=transformers&sort=trending) Transformers, которые вы можете использовать.

Ознакомьтесь с [Hub](https://hf.882286.xyzm/) прямо сейчас, чтобы найти модель и начать работу с Transformers.

Изучите [Models Timeline](./models_timeline), чтобы узнать о последних архитектурах моделей для текста, изображений, аудио и мультимодальных данных в Transformers.

## Возможности

Transformers предоставляет всё необходимое для инференса или обучения с использованием передовых предобученных моделей. Среди основных возможностей:

- [Pipeline](./pipeline_tutorial): простой и оптимизированный класс для вывода во многих задачах машинного обучения, таких как генерация текста, сегментация изображений, автоматическое распознавание речи, документный вопросно-ответный и другие.
- [Trainer](./trainer): универсальный тренажер, поддерживающий такие функции, как смешанная точность, torch.compile и FlashAttention для обучения и распределенного обучения моделей PyTorch.
- [generate](./llm_tutorial): быстрая генерация текста с помощью больших языковых моделей (LLM) и моделей «зрение-язык» (VLM), включая поддержку потоковой передачи и нескольких стратегий декодирования.

## Проектирование

> [!TIP]
> Ознакомьтесь с нашей [Философией](./philosophy), чтобы узнать больше о принципах проектирования Transformers.

Transformers разработан для разработчиков, инженеров по машинному обучению и исследователей. Его основные принципы проектирования:

1. Быстро и просто в использовании: каждая модель реализована на основе всего трёх основных классов (конфигурация, модель и предобработчик) и может быть быстро применена для инференса или обучения с помощью [Pipeline](/docs/transformers/main/ru/main_classes/pipelines#transformers.Pipeline) или [Trainer](/docs/transformers/main/ru/main_classes/trainer#transformers.Trainer).
2. Предобученные модели: сократите углеродный след, затраты на вычисления и время, используя предобученную модель вместо обучения новой с нуля. Каждая предобученная модель воспроизводится максимально близко к оригиналу и обеспечивает передовую производительность.

  
      
  

## Обучение

Если вы только начинаете знакомство с Transformers или хотите узнать больше о трансформерных моделях, рекомендуем начать с [курса по LLM](https://huggingface.co/learn/llm-course/chapter1/1?fw=pt). Этот комплексный курс охватывает всё: от основ работы трансформерных моделей до практического применения в различных задачах. Вы изучите полный рабочий процесс — от подготовки высококачественных датасетов до дообучения больших языковых моделей и реализации возможностей рассуждения. Курс включает как теоретические, так и практические упражнения, что позволяет выстроить прочную базу знаний о трансформерных моделях по мере обучения.