Что такое fine-tuning

Fine-tuning — это процесс дообучения предварительно обученной модели (например, BERT, GPT) на специфическом наборе данных для адаптации к конкретной задаче. Основные шаги:

1. Берем предобученную модель (уже знающую общие закономерности)
2. Добавляем/модифицируем последние слои под нашу задачу
3. Обучаем на целевом датасете (обычно с меньшим LR)

Пример для PyTorch:

from transformers import BertForSequenceClassification

model = BertForSequenceClassification.from_pretrained('bert-base-uncased')
# Замораживаем все слои кроме классификатора
for param in model.base_model.parameters():
    param.requires_grad = False

# Дообучаем только классификатор
optimizer = AdamW(model.classifier.parameters(), lr=5e-5)

Ключевые моменты:

• Требует меньше данных чем обучение с нуля
• Сохраняет общие знания модели
• Часто используется в NLP и CV
• Может быть полным (все слои) или частичным (только верхние)