Что такое bias в предсказаниях модели

Bias (смещение) — это систематическая ошибка модели, когда она постоянно недооценивает или переоценивает истинные значения. Высокий bias часто указывает на слишком простую модель (недообучение).

Пример: линейная регрессия может иметь высокий bias при попытке предсказать нелинейные данные.

from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error
import numpy as np

X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1)
y = np.array([2, 4, 8, 16, 32])  # Явно нелинейная зависимость

model = LinearRegression()
model.fit(X, y)
predictions = model.predict(X)

print(f"MSE: {mean_squared_error(y, predictions)}")  # Высокая ошибка из-за bias

Bias можно уменьшить, используя более сложные модели (например, полиномиальную регрессию, деревья решений). Однако важно балансировать его с variance (разбросом предсказаний), чтобы избежать переобучения.