Глубокое обучение (PyTorch)
курс по глубокому обучению на PyTorch: от полносвязной сети и обратного распространения до свёрточных, рекуррентных сетей и трансформеров.
5 модулей, 11 тем
Middle
Индивидуально с ментором
Программа
- О курсе: что такое глубокое обучение и когда оно нужно
Модуль 1. Нейросети и PyTorch
- PyTorch: тензоры и autograd
- Нейрон, полносвязная сеть, обратное распространение
- Обучение сети: функции потерь, оптимизаторы, регуляризация
Модуль 2. Свёрточные сети и компьютерное зрение
- Свёрточные сети (CNN): свёртка, пулинг, устройство
- Готовые архитектуры и перенос обучения (transfer learning)
Модуль 3. Последовательности: RNN и LSTM
- Рекуррентные сети (RNN): память и затухающий градиент
- LSTM и GRU: как сети запоминают надолго
Модуль 4. Трансформеры и внимание
- Эмбеддинги и механизм внимания (attention)
- Архитектура трансформера: multi-head attention, позиционное кодирование
- От трансформера к языковым моделям
Что разбираем
- PyTorch — тензоры и autograd, нейрон и полносвязная сеть, обратное распространение, функции потерь, оптимизаторы и регуляризация
- Свёрточные сети — свёртка, пулинг, устройство, готовые архитектуры и перенос обучения
- Рекуррентные сети и затухающий градиент, LSTM и GRU
- Эмбеддинги и механизм внимания, архитектура трансформера — multi-head attention и позиционное кодирование, путь от трансформера к языковым моделям
Как проходит обучение
- Занятия один на один с ментором под ваш темп и пробелы
- Материалы курса открываются в личном кабинете, практику разбираете на встречах
- Программа собирается под цель: подготовка к собеседованию или рабочая задача