Глубинное обучение и нейронные сети

Магистратура 2026/2027

ID 1270284

Статус: Курс обязательный (Прикладные нейросетевые технологии)

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 2-й курс, 1, 2 модуль

Охват аудитории: для своего кампуса

Преподаватели: Блуменау Марк Ильич

Язык: русский

Кредиты: 6

Контактные часы: 48

Дополнительные материалы в LMS Задать вопрос

Аннотация

Курс посвящён глубинному обучению — наиболее быстро развивающейся области машинного обучения. Слушатели узнают, какие классы задач решаются нейронными сетями и какие типы архитектур используются сегодня: полносвязные, свёрточные и рекуррентные сети, генеративные модели и трансформеры. Курс имеет выраженную практическую направленность: все модели студенты обучают самостоятельно на фреймворке PyTorch на языке Python. Практика построена вокруг четырёх больших домашних заданий, в которых нужно не только применить готовые решения, но и реализовать ключевые компоненты «с нуля»: собственный аналог автоград-фреймворка, YOLO-подобный детектор, четыре семейства генеративных моделей и decoder-трансформер со стратегиями декодирования. Курс стоит выбрать тем, кто хочет перейти от использования готовых моделей к пониманию того, как они устроены изнутри, и научиться воспроизводить архитектуры по описанию из научных статей.

Цель освоения дисциплины

Знать основные алгоритмы оптимизации нейронных сетей (SGD, momentum, Adam, AdamW) и уметь подбирать learning rate и lr-scheduler.
Уметь обучать полносвязные нейронные сети и понимать работу backpropagation, инициализации весов, Dropout и BatchNorm.
Уметь обучать свёрточные нейронные сети и знать основные CNN-архитектуры (LeNet, AlexNet, VGG, ResNet, Inception).
Знать постановки основных задач компьютерного зрения (классификация, детекция, сегментация, трекинг, идентификация) и метрики их качества (IoU, mAP).
Уметь применять transfer learning, fine-tuning и аугментации данных.
Знать способы векторного представления текста и уметь обучать эмбеддинги (word2vec).
Уметь обучать рекуррентные нейронные сети (RNN, LSTM, GRU) на последовательных данных.
Знать устройство основных генеративных моделей (AE, VAE, GAN, диффузионные модели, нормализующие потоки) и понимать их сильные и слабые стороны.
Знать механизм внимания и архитектуру Transformer, уметь реализовать decoder-модель и стратегии декодирования (top-k, top-p, beam search).
Владеть методами параметрически эффективного дообучения больших языковых моделей (LoRA, prompt tuning, linear probing).
Владеть фреймворком PyTorch и уметь повторять архитектуры нейронных сетей по их описанию из статей.

Планируемые результаты обучения

Реализует полносвязные, свёрточные и рекуррентные нейронные сети средствами PyTorch.
Реализует базовые слои и оптимизаторы нейронных сетей «с нуля» на NumPy, включая прямой и обратный проход.
Составляет пайплайны подготовки данных и обучения нейронных сетей, включая валидацию и логирование экспериментов.
Подбирает гиперпараметры обучения и объясняет их влияние на сходимость и переобучение.
Выбирает архитектуру и функцию потерь, соответствующие поставленной задаче.
Различает задачи классификации, детекции, сегментации и идентификации и считает метрики их качества.
Применяет предобученные модели, transfer learning и fine-tuning к новым задачам.
Обучает генеративные модели (GAN, VAE, диффузионные модели, нормализующие потоки) и сравнивает качество генерации.
Реализует механизм внимания и архитектуру трансформера, дообучает большие языковые модели методами PEFT.
Воспроизводит архитектуру модели и функцию потерь по описанию из научной статьи.

Содержание учебной дисциплины

Введение в глубинное обучение. Виды градиентного спуска: GD, SGD, mini-batch. Momentum, Adam, AdamW, weight decay. Learning rate и lr-schedulers. Функции потерь для задач классификации и регрессии. Backpropagation.
Полносвязный (линейный) слой. Универсальная теорема аппроксимации. Функции активации. Инициализация весов: Xavier, He. Регуляризация: Dropout. Batch Normalization и её поведение в train/eval.
Операция свёртки. Свёрточные слои: kernel_size, stride, padding, dilation. Pooling. Поле восприятия. Подсчёт числа параметров и операций. Почему полносвязные сети не решают задачи компьютерного зрения.
Аугментации данных. Основные свёрточные архитектуры: LeNet-5, AlexNet, VGG, Inception, ResNet. Остаточные связи. Transfer learning и fine-tuning, «заморозка» весов.
Задачи детекции и семантической сегментации. Метрики IoU и mAP, PR-кривая, Non-Maximum Suppression. Эволюция архитектур детекции: R-CNN, Fast/Faster R-CNN, SSD, YOLO. Архитектура U-Net.
Трекинг объектов. Задача идентификации и её отличие от классификации; метрические функции потерь. Instance-сегментация. Обзор моделей.
Векторные представления слов. От Bag of Words и TF-IDF к плотным эмбеддингам. Модель word2vec: CBOW и Skip-Gram, negative sampling. Свойства пространства эмбеддингов, cosine similarity.
Генеративные модели: постановка задачи и латентное пространство. Автоэнкодеры и вариационные автоэнкодеры, роль KL-дивергенции. Генеративно-состязательные сети: минимаксная задача, mode collapse, нестабильность обучения.
Диффузионные модели: прямой и обратный процессы, предсказание шума, DDPM, scheduler, class-conditioned генерация. Нормализующие потоки: формула замены переменных, требования обратимости, RealNVP. Сравнение семейств генеративных моделей.
Рекуррентные нейронные сети. Мотивация для последовательных данных, формула обновления скрытого состояния. Затухание и взрыв градиентов, gradient clipping. LSTM: ячейка памяти и гейты. GRU и сравнение с LSTM.
Механизм внимания: идея query–key–value, scaled dot-product attention. Архитектура Transformer: self-attention и cross-attention, multi-head attention, позиционное кодирование, masked self-attention.
Большие языковые модели и параметрически эффективное дообучение (PEFT): full fine-tuning, linear probing, LoRA и low-rank аппроксимация, prompt tuning, LP-FT. Влияние на число обучаемых параметров и потребление памяти.

Элементы контроля

Домашнее задание 1. Полносвязные нейронные сети
Мягкий дедлайн - конец 1 модуля, жёсткий - через неделю после мягкого (точные даты объявляются на первом занятии и публикуются в репозитории курса).
Домашнее задание 2. Детекция объектов
Выдаётся после лекции 5. Мягкий дедлайн — середина 2 модуля, жёсткий — через неделю после мягкого.
Домашнее задание 3. Генеративные модели
Выдаётся после лекции 9. Мягкий дедлайн — конец 2 модуля, жёсткий — через неделю после мягкого.
Домашнее задание 4. Трансформеры
Экзамен
Проводится в сессию после 2 модуля.

Промежуточная аттестация

2026/2027 2nd module
Итог = ОКРУГЛ(0.6 · МИН(12, ДЗ) + 0.4 · Э), где ДЗ = (ДЗ₁ + ДЗ₂ + ДЗ₃ + ДЗ₄ + Бонус) / 4 — средняя оценка за домашние задания, Э — оценка за экзамен, МИН — функция взятия минимума из двух чисел. Здесь ДЗᵢ — оценка за i-е домашнее задание по 10-балльной шкале (после применения штрафов за просрочку), Бонус — суммарное количество бонусных баллов, набранных во всех домашних заданиях. Бонусные баллы учитываются в числителе, но не в знаменателе, поэтому они могут компенсировать потери в основных частях домашних заданий; при этом средний балл за домашние задания, участвующий в формуле, ограничен сверху значением 12.

Список литературы

Авторы

Ахмедова Гюнай Интигам кызы
Блуменау Марк Ильич

Программа дисциплины