Можно ли использовать бэггинг над линейными алгоритмами

Да, бэггинг можно применять к линейным алгоритмам, но его эффективность может быть ограничена. Линейные модели (например, линейная регрессия, логистическая регрессия) имеют низкую дисперсию и высокое смещение, поэтому бэггинг слабо улучшает их предсказания. Однако он может помочь с устойчивостью к выбросам и шуму в данных.

Пример с sklearn:

from sklearn.ensemble import BaggingRegressor
from sklearn.linear_model import LinearRegression

model = BaggingRegressor(
    base_estimator=LinearRegression(),
    n_estimators=10,
    random_state=42
)
model.fit(X_train, y_train)

Для линейных моделей чаще используют регуляризацию (L1/L2) или бустинг, а не бэггинг.