Как защитить модель линейной регрессии от влияния шума

Для защиты линейной регрессии от шума можно использовать несколько подходов:

1. Регуляризация (L1/L2) — добавляет штраф за большие коэффициенты:

from sklearn.linear_model import Ridge, Lasso
# L2 регуляризация
model = Ridge(alpha=1.0)  
# L1 регуляризация 
model = Lasso(alpha=0.1)

2. PCA — снижает размерность данных, оставляя только информативные признаки:

from sklearn.decomposition import PCA
pca = PCA(n_components=0.95)  # оставляем 95% дисперсии
X_transformed = pca.fit_transform(X)

3. Робастные методы (HuberRegressor, RANSAC) — менее чувствительны к выбросам:

from sklearn.linear_model import HuberRegressor
model = HuberRegressor(epsilon=1.35)

4. Предварительная обработка данных — удаление выбросов (IQR, Z-score) и нормализация.