Можно ли настраивать только Batch Normalization, не изменяя архитектуру сети

Да, можно настраивать только Batch Normalization (BN) без изменения архитектуры сети. Основные параметры BN для настройки:

• momentum: контролирует экспоненциальное скользящее среднее для статистик (по умолчанию 0.99 для TF, 0.1 для PyTorch).
• epsilon: стабилизирует деление на дисперсию (обычно 1e-5).
• affine (PyTorch) / scale и center (TF): включают/выключают обучаемые параметры γ (масштаб) и β (сдвиг).

Пример настройки в PyTorch:

nn.BatchNorm2d(64, momentum=0.1, eps=1e-4, affine=False)

Важно: BN чувствителен к размеру батча. При малых батчах может работать хуже — в таких случаях можно попробовать Layer Normalization или Group Normalization.