В чем разница между Decision Tree и Random Forest

Decision Tree — это простая модель, строящая дерево решений на основе правил (if-else). Она склонна к переобучению, особенно на шумных данных.

Random Forest — ансамбль из множества Decision Trees, где каждое дерево обучается на случайной подвыборке данных и признаков. Это снижает переобучение и улучшает обобщающую способность.

Пример кода:

from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier

# Decision Tree
dt = DecisionTreeClassifier(max_depth=3)
dt.fit(X_train, y_train)

# Random Forest
rf = RandomForestClassifier(n_estimators=100, max_depth=3)
rf.fit(X_train, y_train)

Random Forest обычно дает более стабильные и точные предсказания, но требует больше вычислительных ресурсов.