Бакалавриат
2025/2026
Глубинное обучение 2
Статус:
Курс обязательный (Компьютерные науки и анализ данных)
Где читается:
Факультет компьютерных наук
Когда читается:
4-й курс, 1, 2 модуль
Охват аудитории:
для своего кампуса
Язык:
русский
Кредиты:
5
Контактные часы:
56
Программа дисциплины
Аннотация
В последние годы методы глубинного обучения (нейросети) позволили достигнуть впечатляющих успехов в решении прикладных задач из таких областей как компьтерное зрение, обработка естественного языка, обработка аудио. В рамках данного курса мы рассмотрим основные нейросетевые модели, а также способы их применения и обучения. Студенты получат навыки использования этих технологий в стандартных задачах, а также разработки и модификации методов для новых задач.
Цель освоения дисциплины
- Знать основные принципы построения моделей на основе нейросетей.
- Знать стандартные алгоритмы обучения и регуляризации нейросетей.
- Уметь обучать нейросетевые модели на новых наборах данных.
- Уметь подбирать наиболее подходящий набор алгоритмов.
- Уметь распознавать задачи, которые потенциально можно решить при помощи методов глубинного обучения.
Планируемые результаты обучения
- владеть навыками работы с библиотекой pytorch и ее документацией
- владеть навыками реализации систем для обучения и использования нейросетей
- владеть навыками тестирования и отладки существующих систем
- знать виды задач, которые уместно решать при помощи методов глубинного обучения
- знать наиболее часто используемые стандартные архитектуры и области их применимости
Содержание учебной дисциплины
- Введение. Организация DL экспериментов
- Компьютерное зрение. Архитектуры
- Компьютерное зрение. Сегментация
- Компьютерное зрение. Детекция
- Компьютерное зрение. 3D, NeRF, implicit representations
- Трансформеры часть 1, Эффективные трансформеры, архитектурные модификации
- Трансформеры часть 2, Большые языковые модели, Prompting, Interpretability
- Генеративные модели часть 1
- Генеративные модели часть 2
- Графовые нейронные сети
- Нейронные сети на табличных данных
- Теории и эмпирическая наука про обучение нейронных сетей
- Lifelong Learning
Элементы контроля
- Домашнее задание 1
- Домашнее задание 2
- Домашнее задание 3
- Домашнее задание 4
- Домашнее задание 5
Список литературы
Рекомендуемая основная литература
- Гудфеллоу, Я. Глубокое обучение / Я. Гудфеллоу, И. Бенджио, А. Курвилль , перевод с английского А. А. Слинкина. — 2-е изд. — Москва : ДМК Пресс, 2018. — 652 с. — ISBN 978-5-97060-618-6. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/107901 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
Рекомендуемая дополнительная литература
- Гласснер, Э. Глубокое обучение без математики : справо / Э. Гласснер , перевод с английского В. А. Яроцкого. — Москва : ДМК Пресс, [б. г.]. — Том 1 : Основы — 2019. — 578 с. — ISBN 978-5-97060-701-5. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/131696 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
- Гласснер, Э. Глубокое обучение без математики. Том 2. Практика : руководство / Э. Гласснер , перевод с английского В. А. Яроцкого. — Москва : ДМК Пресс, 2020. — 610 с. — ISBN 978-5-97060-767-1. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/131710 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.