Что такое метод случайного леса

Метод случайного леса (Random Forest) — это ансамблевый алгоритм машинного обучения, который строит множество решающих деревьев и объединяет их предсказания для повышения точности и устойчивости к переобучению.

Ключевые особенности:

• Каждое дерево обучается на случайной подвыборке данных (бутстрэп).
• При разбиении узлов рассматривается только случайное подмножество признаков.
• Итоговый прогноз — среднее (регрессия) или голосование (классификация) всех деревьев.

Пример с sklearn:

from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris

data = load_iris()
X, y = data.data, data.target

model = RandomForestClassifier(n_estimators=100, max_depth=2)
model.fit(X, y)
print(model.predict([[5.1, 3.5, 1.4, 0.2]]))  # Пример предсказания

Плюсы:

• Устойчив к шуму и переобучению.
• Работает с категориальными и числовыми признаками без предобработки.

Минусы:

• Менее интерпретируем, чем одно дерево.
• Может быть медленным при большом числе деревьев.