Какой любимый бустинг

CatBoost — один из самых популярных бустингов, особенно для задач с категориальными признаками. Он автоматически обрабатывает категории без предварительного кодирования, устойчив к переобучению и часто показывает высокую точность.

Пример использования:

from catboost import CatBoostClassifier

model = CatBoostClassifier(iterations=100, learning_rate=0.1, depth=6)
model.fit(X_train, y_train, cat_features=cat_feature_indices, verbose=False)
predictions = model.predict(X_test)

XGBoost и LightGBM тоже сильные конкуренты:

• XGBoost — надежный, с хорошей регуляризацией.
• LightGBM — быстрый, эффективен на больших данных.

Выбор зависит от задачи: CatBoost для категориальных данных, LightGBM для скорости, XGBoost для баланса между точностью и интерпретируемостью.