Какие знаешь библиотечные реализации бустинга

XGBoost (eXtreme Gradient Boosting) — одна из самых популярных реализаций, известная скоростью и точностью. Поддерживает регуляризацию, раннюю остановку и обработку пропусков.

import xgboost as xgb
model = xgb.XGBClassifier()
model.fit(X_train, y_train)

LightGBM от Microsoft — оптимизирован для больших данных, использует gradient-based one-side sampling (GOSS) и exclusive feature bundling (EFB) для ускорения.

from lightgbm import LGBMClassifier
model = LGBMClassifier()
model.fit(X_train, y_train)

CatBoost от Yandex — автоматически обрабатывает категориальные признаки, устойчив к переобучению.

from catboost import CatBoostClassifier
model = CatBoostClassifier()
model.fit(X_train, y_train)

Также есть scikit-learn's GradientBoostingClassifier/Regressor — проще в использовании, но менее гибкий и медленнее.

from sklearn.ensemble import GradientBoostingClassifier
model = GradientBoostingClassifier()
model.fit(X_train, y_train)