Как работает L1 регуляризация

L1 регуляризация (Lasso) добавляет к функции потерь сумму абсолютных значений весов модели, умноженных на коэффициент λ. Это приводит к разреженным решениям — некоторые веса становятся точно нулевыми, что эквивалентно автоматическому отбору признаков.

Формула:
Loss = Ошибка + λ * Σ|w_i|

Пример в sklearn:

from sklearn.linear_model import Lasso
model = Lasso(alpha=0.1)  # alpha — коэффициент λ
model.fit(X_train, y_train)
# Нулевые коэффициенты — неважные признаки
print(model.coef_)

Ключевые свойства:

• Устойчив к мультиколлинеарности
• Выполняет feature selection
• Чувствителен к масштабу данных (нужна нормализация)