Какие знаешь общие методы борьбы с переобучением

1. Регуляризация (L1/L2) – добавляет штраф за большие веса:

from sklearn.linear_model import LogisticRegression
model = LogisticRegression(penalty='l2', C=0.1)

2. Упрощение модели – уменьшение глубины деревьев/числа слоёв нейросети.

3. Ранняя остановка – прекращение обучения при ухудшении валидационной метрики.

4. Кросс-валидация – например, k-fold для оценки обобщающей способности.

5. Увеличение данных (data augmentation) – искусственное расширение обучающей выборки.

6. Dropout (для нейросетей) – случайное отключение нейронов во время обучения.

7. Баггинг/бустинг – ансамблирование моделей (Random Forest, XGBoost).

8. Feature selection – отбор наиболее значимых признаков.

Для деревьев также эффективны:

• Ограничение max_depth/min_samples_leaf
• Обрезка (pruning) после обучения

Пример для деревьев:

from sklearn.tree import DecisionTreeClassifier
model = DecisionTreeClassifier(max_depth=5, min_samples_leaf=10)