Дизайн современных LLM

2026/2027

ID 1152538

Статус: Маго-лего

Кто читает: Департамент больших данных и информационного поиска

Где читается: Факультет компьютерных наук

Когда читается: 3 модуль

Охват аудитории: для своего кампуса

Преподаватели: Бурлова Альбина Сергеевна

Язык: русский

Кредиты: 3

Контактные часы: 40

Дополнительные материалы в LMS Задать вопрос

Аннотация

Дисциплина является логическим продолжением курса “Основы NLP” и посвящена устройству современных больших языковых моделей (LLM) и практикам их применения в аналитических задачах. Курс проходит ключевые этапы жизненного цикла модели: архитектура и данные, дообучение по инструкциям и параметро-эффективную адаптацию (LoRA/QLoRA), выравнивание по предпочтениям и reasoning-модели, системы “поиск и генерация” (RAG), оценка качества, безопасности и интерпретация поведения модели, а также инференс и развертывание моделей. В фокусе внимания прикладная сторона работы с LLM: получение структурированных ответов от модели, выбор модели под задачу и бюджет, построение воспроизводимых оценочных harness для моделей и агентов, развертывание LLM как сервиса и наблюдаемость.

Цель освоения дисциплины

Сформировать у студентов системное представление о том, как проектируются, обучаются, адаптируются и внедряются современные LLM: от архитектурных решений и данных до alignment, оценивания, агентных систем и продакшен развертывания.

Планируемые результаты обучения

Студент сможет выбирать LLM под задачу: открытые и закрытые модели, base/instruct/reasoning-варианты, лицензии, приватность, стоимость, токенизация и длина контекста.
Студент сможет объяснять ключевые компоненты архитектуры больших языковых моделей (декодерный трансформер, токены, позиционные кодировки, варианты механизма внимания, MoE) и компромиссы масштабирования.
Студент сможет проектировать пайплайн обучения небольшой языковой модели: подготовка и очистка данных, токенизация, предварительное обучение на предсказание следующего токена, мониторинг и базовая оценка.
Студент сможет получать от LLM структурированные ответы: few-shot промптинг, ограниченное декодирование, JSON-схемы и их валидация, извлечение полей из текста, text-to-SQL.
Студент сможет выполнять дообучение по инструкциям и адаптивную настройку языковой модели (LoRA/QLoRA), подбирать данные и формат инструкций, контролировать переобучение.
Студент научится понимать методы post-training: данные предпочтений, обучение с подкреплением на обратной связи (RLHF, обзор), оптимизация по предпочтениям (DPO/ORPO) на практике, обучение с проверяемыми наградами (RLVR/GRPO), режимы рассуждений и управление вычислительным бюджетом на инференсе.
Студент сможет оценивать качество, устойчивость и безопасность LLM: строить воспроизводимый бенчмарк, калибровать LLM-as-a-judge на человеческой разметке, проводить абляции и red teaming, учитывать prompt injection; применять базовые методы механистической интерпретируемости (probing, logit lens, разреженные автоэнкодеры - обзорно).
Студент сможет собирать и улучшать системы “поиск и генерация” (RAG): эмбеддинги, гибридный поиск, переранжирование, управление контекстом, атрибуция источников; раздельно оценивать качество поиска и качество ответа.
Студент сможет проектировать агентные сценарии вокруг модели: вызов функций и инструментов, MCP, ограничения и права доступа, а также настраивать harness для оценки агентов по трассам выполнения (вызовы инструментов, ошибки, устойчивость).
Студент сможет оптимизировать инференс и развертывать LLM как сервис: сервинг (vLLM и аналоги), пакетирование запросов, кэш ключей-значений, квантизация, спекулятивное декодирование, измерение задержки, пропускной способности и стоимости, наблюдаемость сервиса.

Содержание учебной дисциплины

Выбор LLM под задачу: ландшафт моделей, лицензии, стоимость, токенизация и длина контекста.
Архитектура и обучение LLM: декодерный трансформер, варианты внимания, MoE, данные, предобучение и законы масштабирования.
Промптинг и структурированные ответы: ограниченное декодирование, JSON-схемы, извлечение данных, text-to-SQL.
Дообучение по инструкциям и адаптивная настройка языковой модели: LoRA/QLoRA, выбор задачи и формата данных, стабильность обучения и контроль качества.
Post-training и reasoning-модели: выравнивание по предпочтениям и reward‑modeling (RLHF, DPO/ORPO), обучение с проверяемыми наградами.
Оценка, диагностика и интерпретируемость: бенчмарки, LLM-as-a-judge, red teaming, основы механистической интерпретируемости.
Эмбеддинги и поиск для LLM-систем: гибридный поиск и переранжирование.
RAG и управление контекстом: разбиение на фрагменты, длинный контекст, атрибуция источников.
Агентные системы: инструменты, MCP, оценочный harness и анализ трасс выполнения.
Инференс и развертывание: сервинг, оптимизации, деплой LLM как сервиса и наблюдаемость.

Элементы контроля

Домашнее задание 1.
Структурированное извлечение данных с помощью LLM. Преобразование неструктурированных текстов в валидные структурированные данные.
Домашнее задание 2.
Адаптация небольшой LLM под задачу: дообучение по инструкциям и/или адаптивная настройка (LoRA/QLoRA), сравнение с базовой моделью, отчёт по метрикам и анализу ошибок. Выравнивание по предпочтениям (DPO) - как бонусная часть.
Домашнее задание 3.
LLM-система с измеримым качеством. На выбор формата: а) соревнование по построению RAG-системы на фиксированном корпусе; b) проект: прототип LLM-системы (RAG и/или инструменты и агентные сценарии) с собственным оценочным harness и оптимизацией инференса.

Промежуточная аттестация

2026/2027 3rd module
0.3 * ДЗ1 + 0.3 * ДЗ2 + 0.4 * ДЗ3; максимум = 10 баллов

Список литературы

Авторы

Бурлова Альбина Сергеевна

Программа дисциплины