Бакалавриат 2024/2025

Научно-исследовательский семинар "Лингвистическая интерпретация языковых моделей"

Статус: Курс по выбору (Фундаментальная и компьютерная лингвистика)

Направление: 45.03.03. Фундаментальная и прикладная лингвистика

Кто читает: Школа лингвистики

Где читается: Факультет гуманитарных наук

Когда читается: 3-й курс, 3, 4 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Язык: русский

Кредиты: 3

Программа дисциплины

Аннотация

Большие языковые модели стали синонимом искусственного интеллекта: все важные интеллектуальные задачи подвержены автоматизации с их помощью. Тем не менее нам лишь отчасти известно, что же именно эти модели знают про мир, и какими закономерностями они руководствуются в работе. НИС посвящён обзору существующих подходов к этой проблеме и их избирательному воспроизведению.

Цель освоения дисциплины

• Ознакомление с основными методами анализа лингвистической интерпретации NLP-моделей
• Развитие навыков воспроизведения экспериментов и анализа результатов

Планируемые результаты обучения

• Определяет сильные и слабые стороны существующих методов интерпретации
• Различает методы пробинга и альтернативные подходы для анализа NLP-моделей
• Ориентируется в современных подходах к интерпретации языковых моделей

Содержание учебной дисциплины

• Методы пробинга языковых моделей
• Альтернативные методы интерпретации моделей
• Практика: Примеры исследований и критический разбор
• Практика: воспроизведение экспериментов

Элементы контроля

• Доклад по статье
• Воспроизведение эксперимента
• Промежуточные тесты

Промежуточная аттестация

• 2024/2025 4th module
  0.3 * Воспроизведение эксперимента + 0.5 * Доклад по статье + 0.2 * Промежуточные тесты

Список литературы

Рекомендуемая основная литература

• 9781491962992 - Bengfort, Benjamin; Bilbro, Rebecca; Ojeda, Tony - Applied Text Analysis with Python : Enabling Language-Aware Data Products with Machine Learning - 2018 - O'Reilly Media - https://search.ebscohost.com/login.aspx?direct=true&db=nlebk&AN=1827695 - nlebk - 1827695

Рекомендуемая дополнительная литература

• Miroslav Kubat. (2017). An Introduction to Machine Learning (Vol. 2nd ed. 2017). Springer.

Авторы

• Сериков Олег Алексеевич
• Дьячкова Анна Евгеньевна