Как использовать модель бустинга в случае дисбаланса

Для дисбалансированных данных в бустинге (XGBoost, LightGBM, CatBoost) можно использовать:

1. Параметр scale_pos_weight (XGBoost) или class_weight - задает вес для положительного класса. Оптимальное значение обычно sum(negative) / sum(positive)

# XGBoost пример
model = XGBClassifier(scale_pos_weight=10) 

2. Параметр is_unbalance в LightGBM:

model = LGBMClassifier(is_unbalance=True)

3. Метрики: Используйте F1-score, ROC-AUC вместо accuracy

4. Сэмплинг: SMOTE/ADASYN перед обучением или параметры subsample, colsample_by*

5. Фокус-параметры: max_delta_step (XGBoost) помогает при сильном дисбалансе

Важно валидировать на стратифицированных выборках и использовать кросс-валидацию с учетом дисбаланса (StratifiedKFold).