Какие модели классического машинного обучения использовал

Наиболее распространённые классические модели ML:

1. Линейные модели

   • Логистическая регрессия (бинарная/мультиклассовая классификация)
   • Линейный SVM (хорош для линейно разделимых данных)

2. Ансамбли

   • Random Forest (устойчив к переобучению, работает с категориальными фичами)
   • Gradient Boosting (XGBoost, LightGBM, CatBoost – часто SOTA для табличных данных)

3. Метрические методы

   • KNN (простота, но требует нормализации данных)

4. Наивный Байес

   • GaussianNB, MultinomialNB (быстрый, но сильные предположения о данных)

Пример с LogisticRegression:

from sklearn.linear_model import LogisticRegression
model = LogisticRegression(penalty='l2', C=1.0)
model.fit(X_train, y_train)

Выбор зависит от задачи, размера данных и природы признаков. Для табличных данных часто стартуют с логистической регрессии (базовый уровень), затем переходят к бустингам.