Как меняется bias и variance при увеличении k в k-NN модели

При увеличении k в k-NN:

• Bias увеличивается: модель становится менее чувствительной к локальным особенностям данных, усредняя больше соседей. Это приводит к недообучению (underfitting).
• Variance уменьшается: модель менее зависима от отдельных точек, так как решение основано на большем количестве соседей, снижая разброс предсказаний.

Пример с кодом (sklearn):

from sklearn.neighbors import KNeighborsClassifier
# Высокий k (k=50) → высокий bias, низкая variance
model_high_k = KNeighborsClassifier(n_neighbors=50)
# Низкий k (k=1) → низкий bias, высокая variance
model_low_k = KNeighborsClassifier(n_neighbors=1)

Оптимальный k выбирается через кросс-валидацию, балансируя bias и variance.