Машинное и глубокое обучение в гуманитарных науках

Магистратура 2026/2027

ID 1124584

Статус: Курс обязательный (Цифровые технологии в гуманитарных исследованиях)

Кто читает: Школа лингвистики

Где читается: Факультет гуманитарных наук

Когда читается: 2-й курс, 1, 2 модуль

Охват аудитории: для своего кампуса

Преподаватели: Дмитриева Анна Андреевна

Язык: русский

Кредиты: 6

Контактные часы: 48

Дополнительные материалы в LMS Задать вопрос

Аннотация

Курс проводит студентов от основ классического машинного обучения к теории и практике глубокого обучения и больших языковых моделей в приложении к гуманитарным исследованиям. В первой части студенты разбирают математику нейронных сетей и осваивают PyTorch, реализуя модели с нуля; во второй — детально изучают архитектуру Transformer, стек обучения LLM и прикладные рабочие процессы (тонкая настройка, PEFT, квантизация, RAG, AI-агенты). Акцент делается одновременно на понимании того, как устроены современные системы, и на умении критически использовать их в научной работе.

Цель освоения дисциплины

Сформировать теоретическое понимание устройства нейронных сетей и архитектуры Transformer, лежащей в основе современных языковых моделей.
Выработать практические навыки реализации, тонкой настройки и применения моделей глубокого обучения к задачам цифровых гуманитарных наук.
Развить способность критически оценивать возможности, ограничения и эпистемические риски применения этих систем в гуманитарных исследованиях.

Планируемые результаты обучения

Уметь давать определения основным методам и алгоритмам глубокого обучения;
Объяснять архитектуру Transformer и формулировать разницу между вариантами этой архитектуры (encoder, decoder, …)
Применять методы глубокого обучения, реализуя решение на языке Python либо через API больших языковых моделей;
Определять, какие метрики необходимы для оценки качества выполнения задачи, и применять эти метрики, реализуя их на языке Python;
Экспериментировать с различными способами решения задач машинного обучения для работы с данными гуманитарных доменов. Выбирать и реализовывать наиболее подходящее решение;
Описывать полный стек обучения LLM: предобучение, SFT, RLHF и архитектурные решения (RoPE, MoE), а также методы ускорения/вычислительного удешевления обучения и/или инференса.
Выполнять тонкую настройку предобученных моделей методами полной настройки и PEFT.
Разрабатывать многошаговые рабочие процессы с вовлечением RAG-конвейеров и/или ИИ-агентов.
Оценивать ограничения, предвзятости и эпистемические риски применения этих систем в научном контексте.

Содержание учебной дисциплины

Основы глубокого обучения
Современные приложения глубокого обучения и LLM

Элементы контроля

Контрольные работы
Работа проверяет усвоение студентами материала Раздела Проводится письменно в аудитории, длительность - 180 минут. Материалами и LLM пользоваться нельзя. Работа состоит из вопросов трёх типов: короткие вопросы на знание и определения, открытые вопросы на понимание («почему это устроено именно так», разбор архитектурных тонкостей и обоснование выбора) и одно задание на проектирование системы под конкретную гуманитарную задачу.
Квизы
Квизы проводятся на платформе Yandex Forms. Большинство вопросов закрытые (multiple choice), в редких случаях предполагается короткий ответ, который может быть оценен однозначно: например, необходимо написать правильное число или комбинацию чисел.
Экзамен
абота проверяет усвоение студентами Разделов 2 (в большей степени) и 1 (в качестве закрепления). Работа выполняется в виде реферата/мини-проекта. Студент выбирает свежую статью (статьи, вышедшие ранее 2017г., могут быть выбраны только по согласованию с преподавателем) по предполагаемой теме своей ВКР или по любой другой, которой интересуется. Статья должна быть опубликована в рецензируемом издании, а задачи исследования должны быть решены при помощи машинного обучения. Далее студент реферирует статью, опционально делая также мини-проект на ее основе. Формальные требования: реферат должен быть сдан в любом текстовом формате, включая pdf; код экспериментов размещен на github. Объем реферата без учета описания проектной работы – от 2500 до 5000 знаков, с учетом описаний экспериментов – до 10000 знаков. Все значимые описания экспериментов должны быть размещены в теле реферата. Язык реферата и статьи – русский или английский. Код должен быть написан с использованием изученных в курсе технологий. К коду мини-проекта применяются ограничения: только Python, только фреймворки, изученные в курсе. Работа не оценивается, если не предоставлен текст реферируемой статьи.

Промежуточная аттестация

2026/2027 2nd module
0.4 * Контрольные работы + 0.4 * Экзамен + 0.2 * Квизы

Список литературы

Авторы

Дмитриева Анна Андреевна
Климов Александр Антонович
Дьячкова Анна Евгеньевна

Программа дисциплины