Что происходит со смещением и дисперсией при бэггинге

Бэггинг (bootstrap aggregating) уменьшает дисперсию модели, не увеличивая смещение. Это достигается за счёт усреднения предсказаний множества моделей, обученных на разных бутстрэп-выборках.

Пример с кодом (BaggingClassifier в sklearn):

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

base_model = DecisionTreeClassifier()
bagging_model = BaggingClassifier(base_model, n_estimators=100)
bagging_model.fit(X_train, y_train)

**Ключевые моменты:**
- Смещение остаётся примерно таким же, как у базовой модели
- Дисперсия уменьшается, так как агрегирование сглаживает шум
- Эффективнее всего работает для моделей с высокой дисперсией (например, деревья решений)