Что такое мультиколлинеарность

Мультиколлинеарность — это ситуация в регрессионном анализе, когда предикторы сильно коррелируют между собой. Это затрудняет оценку вклада каждого признака в модель, увеличивает дисперсию коэффициентов и может сделать их нестабильными.

Проблемы:

• Завышенные стандартные ошибки коэффициентов
• Неинтерпретируемость значимости признаков
• Неустойчивость модели к малым изменениям данных

Как обнаружить:

1. Матрица корреляций (корреляция >0.8-0.9)
2. VIF (Variance Inflation Factor) > 5-10

from statsmodels.stats.outliers_influence import variance_inflation_factor

vif_data = pd.DataFrame()
vif_data["feature"] = X.columns
vif_data["VIF"] = [variance_inflation_factor(X.values, i) for i in range(X.shape[1])]

Решение:

• Удаление коррелирующих признаков
• PCA или другие методы уменьшения размерности
• Регуляризация (Ridge/Lasso регрессия)