Какие знаешь методы борьбы с переобучением моделей

Основные методы борьбы с переобучением:

1. Регуляризация (L1/L2) – добавление штрафа за большие веса:

from sklearn.linear_model import LogisticRegression
model = LogisticRegression(penalty='l2', C=0.1)  # L2-регуляризация

2. Упрощение модели – уменьшение глубины дерева/числа нейронов.

3. Кросс-валидация – оценка на нескольких фолдах (cross_val_score).

4. Ранняя остановка (для нейросетей) – прекращение обучения при ухудшении валидационной метрики.

5. Дропаут (для нейросетей) – случайное "выключение" части нейронов.

6. Аугментация данных – искусственное увеличение выборки (например, повороты изображений).

7. Баггинг/бэггинг (Random Forest) – усреднение предсказаний множества моделей.

8. Feature selection – отбор значимых признаков.

Важно: методы подбираются экспериментально, исходя из данных и задачи.