Что такое Random Forest

Random Forest — это ансамблевый алгоритм машинного обучения, использующий множество решающих деревьев (деревьев решений) для улучшения точности и контроля переобучения. Каждое дерево обучается на случайной подвыборке данных (бутстрэп), а при разбиении узлов рассматривается случайное подмножество признаков. Итоговый прогноз формируется путем голосования (классификация) или усреднения (регрессия).

Преимущества:

• Устойчивость к переобучению.
• Работает с категориальными и числовыми признаками.
• Не требует масштабирования данных.

Пример (Python, scikit-learn):

from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris

data = load_iris()
X, y = data.data, data.target

model = RandomForestClassifier(n_estimators=100, random_state=42)
model.fit(X, y)
print("Accuracy:", model.score(X, y))

Параметры:

• n_estimators: количество деревьев.
• max_depth: максимальная глубина дерева.
• max_features: число признаков для разбиения.