Что такое feature importance в линейной регрессии

В линейной регрессии feature importance показывает, насколько сильно каждый признак влияет на целевую переменную. Обычно измеряется через абсолютные значения коэффициентов модели (весов признаков), но для сравнения между признаками их нужно стандартизировать (если признаки в разных масштабах).

Пример кода с sklearn:

from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

model = LinearRegression()
model.fit(X_scaled, y)

# Важность признаков
importance = abs(model.coef_)
for i, imp in enumerate(importance):
    print(f"Feature {i}: {imp:.4f}")

Важные нюансы:

1. Признаки должны быть стандартизированы для корректного сравнения
2. Высокая важность не означает причинно-следственную связь
3. Мультиколлинеарность может искажать значения важности