Какие компоненты используются в deep learning

В deep learning используются несколько ключевых компонентов:

1. Нейронные сети – основа DL, включая архитектуры:

   • Полносвязные (Dense)
   • Сверточные (CNN)
   • Рекуррентные (RNN, LSTM)
   • Трансформеры

2. Фреймворки – библиотеки для реализации моделей:

   • TensorFlow/Keras
   • PyTorch
   • MXNet

3. Оптимизаторы – алгоритмы обучения:

   • SGD, Adam, RMSprop

4. Функции активации – нелинейности:

   • ReLU, Sigmoid, Tanh, Softmax

5. Регуляризация – предотвращение переобучения:

   • Dropout, BatchNorm, L1/L2

Пример CNN на PyTorch:

import torch.nn as nn

class CNN(nn.Module):
    def __init__(self):
        super().__init__()
        self.layers = nn.Sequential(
            nn.Conv2d(3, 16, 3),  # CNN слой
            nn.ReLU(),            # Активация
            nn.MaxPool2d(2),      # Пулинг
            nn.Flatten(),
            nn.Linear(16*14*14, 10)  # Полносвязный слой
        )