Какие плюсы и минусы у бустинговых моделей

Плюсы:

• Высокая точность: часто превосходят другие алгоритмы на структурированных данных
• Автоматически обрабатывают нелинейности и взаимодействия фичей
• Устойчивы к выбросам и пропускам (особенно XGBoost/LightGBM)
• Встроенный отбор фичей через важность признаков

Минусы:

• Склонны к переобучению (требуют тщательной настройки гиперпараметров)
• Вычислительно дорогие (особенно на больших данных)
• Менее интерпретируемы, чем линейные модели
• Чувствительны к дисбалансу классов (требуют весов/сэмплинга)

# Пример XGBoost с регуляризацией
from xgboost import XGBClassifier
model = XGBClassifier(
    n_estimators=100,
    max_depth=3,
    learning_rate=0.1,
    reg_alpha=1,  # L1 регуляризация
    reg_lambda=1  # L2 регуляризация
)