Можно ли дообучать модель градиентного бустинга

Да, большинство современных реализаций градиентного бустинга (XGBoost, LightGBM, CatBoost) поддерживают дообучение через метод fit() с параметром warm_start или аналогичным. Это позволяет добавлять новые деревья к уже обученной модели без переобучения с нуля.

Пример для LightGBM:

# Первоначальное обучение
model = lgb.LGBMClassifier(n_estimators=100)
model.fit(X_train, y_train)

# Дообучение (добавляем еще 50 деревьев)
model.set_params(n_estimators=150)
model.fit(X_train, y_train, init_model=model)

Важные нюансы:

1. Структура данных должна оставаться неизменной
2. Гиперпараметры, влияющие на построение деревьев, менять нельзя
3. Возможна деградация качества при слишком длительном дообучении
4. Для XGBoost используется параметр xgb_model вместо init_model