Что такое линейная регрессия

Линейная регрессия — это статистический метод моделирования зависимости между зависимой переменной (y) и одной или несколькими независимыми переменными (X). Основная идея — найти линейную зависимость вида y = b0 + b1*X1 + ... + bn*Xn + ε, где b0 — интерсепт, b1...bn — коэффициенты, а ε — ошибка.

Пример на Python:

from sklearn.linear_model import LinearRegression
import numpy as np

# Пример данных
X = np.array([[1], [2], [3]])
y = np.array([2, 4, 6])

# Обучение модели
model = LinearRegression().fit(X, y)

# Предсказание
print(model.predict([[4]]))  # Выведет ~8

Ключевые моменты:

• Минимизирует сумму квадратов ошибок (MSE).
• Предполагает линейную связь и гомоскедастичность ошибок.
• Чувствительна к мультиколлинеарности и выбросам.