Встречается на собеседованиях • сегодня

Что такое residual block

Residual block — это архитектурный элемент нейронных сетей, который решает проблему затухания градиентов в глубоких сетях. Он добавляет "пропускное соединение" (skip connection), передавая входные данные на более глубокие слои без изменений.

Формула:
output = F(x) + x,
где F(x) — преобразование слоями блока, а x — исходный вход.

Пример кода на PyTorch:

python
import torch.nn as nn

class ResidualBlock(nn.Module):
    def __init__(self, in_channels):
        super().__init__()
        self.conv1 = nn.Conv2d(in_channels, in_channels, kernel_size=3, padding=1)
        self.relu = nn.ReLU()
        self.conv2 = nn.Conv2d(in_channels, in_channels, kernel_size=3, padding=1)

    def forward(self, x):
        residual = x
        out = self.conv1(x)
        out = self.relu(out)
        out = self.conv2(out)
        out += residual  # Skip connection
        return out

Используется в ResNet и других архитектурах для обучения очень глубоких сетей.

Sophi
Софи собрала все вопросы. Тренируйся и получай
офферы быстрее!
Попробовать бесплатноArrow

Следующий вопрос

Это единственный вопрос по вашему фильтру

как отвечать на вопрос
пример собеседования
фреймворки на собеседовании
типичные вопросы junior
интервью вопросы и ответы