Встречается на собеседованиях • сегодня

Какие знаешь методы регуляризации нейронных сетей

L1/L2 регуляризация - добавление штрафа за большие веса (L1 - сумма модулей, L2 - сумма квадратов). Пример в Keras:

python
model.add(Dense(64, kernel_regularizer=l2(0.01)))

Dropout - случайное "выключение" нейронов во время обучения:

python
model.add(Dropout(0.5))

Ранняя остановка (early stopping) - прекращение обучения при ухудшении валидационных метрик:

python
callbacks = [EarlyStopping(patience=3)]

Batch Normalization - нормализация активаций между слоями:

python
model.add(BatchNormalization())

Data Augmentation - увеличение данных через преобразования (для изображений - повороты, сдвиги и т.д.). Также используются методы вроде weight decay, max-norm constraints и label smoothing. Выбор метода зависит от задачи и архитектуры сети.

Sophi
Софи собрала все вопросы. Тренируйся и получай
офферы быстрее!
Попробовать бесплатноArrow

Следующий вопрос

Это единственный вопрос по вашему фильтру

как отвечать на вопрос
пример собеседования
фреймворки на собеседовании
типичные вопросы junior
интервью вопросы и ответы