Почему смещение и разброс либо низкие либо высокие у градиентного бустинга

Градиентный бустинг (GB) может страдать от высокого смещения (bias) или высокого разброса (variance) в зависимости от настроек:

• Высокое смещение: Возникает при слишком слабой модели (мало деревьев, малая глубина). Пример:
  python

  Копировать

  from sklearn.ensemble import GradientBoostingRegressor
  model = GradientBoostingRegressor(n_estimators=10, max_depth=2)  # Слишком просто → недообучение

• Высокий разброс: Проявляется при избыточной сложности (много деревьев, большая глубина). Пример:
  python

  Копировать

  model = GradientBoostingRegressor(n_estimators=1000, max_depth=10)  # Слишком сложно → переобучение

Как балансировать:

1. Контролируйте max_depth, n_estimators.
2. Используйте регуляризацию (learning_rate < 0.1, subsample).
3. Применяйте кросс-валидацию для подбора гиперпараметров.