Как уменьшение глубины дерева влияет на дисперсию модели

Уменьшение глубины дерева снижает дисперсию модели, так как ограничивает её способность к переобучению. Менее глубокие деревья имеют меньше узлов, что делает их проще и устойчивее к шумам в данных. Однако это может увеличить смещение, если дерево станет слишком простым.

Пример с sklearn:

from sklearn.tree import DecisionTreeRegressor

# Глубокое дерево (высокая дисперсия)
deep_tree = DecisionTreeRegressor(max_depth=10)
deep_tree.fit(X_train, y_train)

# Мелкое дерево (низкая дисперсия)
shallow_tree = DecisionTreeRegressor(max_depth=3)
shallow_tree.fit(X_train, y_train)

Оптимальная глубина находится балансировкой между смещением и дисперсией, например, через кросс-валидацию.