Что такое функция ошибки

Функция ошибки (loss function) — это мера, которая оценивает, насколько предсказания модели отличаются от реальных значений. Она количественно определяет ошибку модели и используется для её оптимизации в процессе обучения.

Примеры популярных функций ошибки:

• MSE (Mean Squared Error) для регрессии:
  python

  Копировать

  def mse(y_true, y_pred):
      return ((y_true - y_pred) ** 2).mean()

• Cross-Entropy для классификации:
  python

  Копировать

  def cross_entropy(y_true, y_pred):
      return - (y_true * np.log(y_pred)).sum()

Выбор функции зависит от задачи (регрессия/классификация) и желаемых свойств (чувствительность к выбросам, дифференцируемость и т. д.).