Встречается на собеседованиях • сегодня

Насколько сильно позволяет ансамблирование снизить дисперсию

Ансамблирование (например, бэггинг, случайный лес) эффективно снижает дисперсию модели за счёт усреднения предсказаний множества слабых моделей. Основной принцип: независимые ошибки отдельных моделей компенсируют друг друга при агрегации.

Пример с бэггингом (sklearn):

python
from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

base_model = DecisionTreeClassifier()
ensemble = BaggingClassifier(base_model, n_estimators=100, random_state=42)
ensemble.fit(X_train, y_train) # Дисперсия ошибки будет ниже, чем у одного дерева

text

**Ограничения:**  
- Ансамбли не помогают, если базовые модели имеют высокое смещение (bias).  
- Эффективность зависит от разнообразия моделей (корреляция ошибок должна быть низкой).  
- Случайный лес дополнительно снижает дисперсию за счёт случайного выбора признаков.  

В идеале дисперсия уменьшается пропорционально √n (n — число моделей), но на практике есть насыщение.
Sophi
Софи собрала все вопросы. Тренируйся и получай
офферы быстрее!
Попробовать бесплатноArrow

Следующий вопрос

Это единственный вопрос по вашему фильтру

как отвечать на вопрос
пример собеседования
фреймворки на собеседовании
типичные вопросы junior
интервью вопросы и ответы