Что такое байесовский оптимизатор в Python

Байесовский оптимизатор — это метод подбора гиперпараметров, основанный на байесовской статистике. Он использует вероятностную модель (обычно гауссовский процесс) для предсказания оптимальных значений, минимизируя количество итераций. В Python реализован в библиотеках scikit-optimize (skopt) и BayesianOptimization.

Пример с scikit-optimize:

from skopt import gp_minimize
from skopt.space import Real

def objective(x):
    return (x[0] - 0.5)**2 + 0.1

res = gp_minimize(
    objective,
    [Real(-5, 5)],
    n_calls=20,
    random_state=42
)
print(f"Оптимум: {res.x[0]:.3f}")

Ключевые особенности:

• Учитывает историю предыдущих оценок
• Эффективен для дорогих целевых функций
• Подходит для black-box оптимизации

Для сложных задач часто превосходит grid/random search.