Может ли бустинг предсказывать значения за границами таргета в обучающей выборке

Да, бустинг (например, XGBoost, LightGBM) может предсказывать значения за пределами обучающего таргета, но это зависит от модели и данных.

Почему может:

• Бустинг строит ансамбль деревьев, которые аппроксимируют функцию. Если закономерность в данных позволяет экстраполировать, модель может выйти за границы.
• Например, линейный тренд в данных может быть продолжен.

Ограничения:

• Деревья плохо экстраполируют за пределы обучающего диапазона, особенно если зависимость нелинейная.
• Регрессия с бустингом часто "залипает" около крайних значений обучающей выборки.

Пример с XGBoost:

import xgboost as xgb
import numpy as np

X = np.array([1, 2, 3]).reshape(-1, 1)
y = np.array([10, 20, 30])  # линейная зависимость
model = xgb.XGBRegressor().fit(X, y)
print(model.predict(np.array([[4]])))  # может предсказать ~40

Для лучшей экстраполяции рассмотрите линейные модели или специальные техники.