Как оценишь достаточность заданной глубины дерева

Достаточность глубины дерева можно оценить несколькими способами:

1. Переобучение/недообучение:

   • Если accuracy на train >> test — дерево слишком глубокое (переобучение).
   • Если accuracy низкий на обоих — возможно, недостаточная глубина.

2. Визуализация дерева:

   python

   Копировать

   from sklearn.tree import plot_tree
   plot_tree(model, max_depth=3)  # Ограничиваем глубину для наглядности

   Убедитесь, что дерево не слишком ветвистое (переобучение) или слишком простое (недообучение).

3. Кросс-валидация:

   python

   Копировать

   from sklearn.model_selection import cross_val_score
   scores = cross_val_score(model, X, y, cv=5)
   print(f"Mean accuracy: {scores.mean():.2f}")

   Если результаты стабильны при изменении глубины — глубина достаточна.

4. Learning curves: Рост accuracy на валидации с увеличением глубины замедляется — оптимальная глубина достигнута.

Обычно начинают с глубины 3-5 и увеличивают, пока не увидите переобучение. Для RandomForest/GradientBoosting глубина 5-10 часто оптимальна.