Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

В области обработки естественного языка эталонное тестирование (англ. benchmarking) является общепринятой методологией оценки обобщающей способности современных языковых моделей на основе архитектуры «Трансформер». Однако существующие бенчмарки разработаны для малого количества языков и используют методы агрегации результатов, не соответствующие многообразию критериев оценки. В данной работе впервые предложены бенчмарки для оценки языковых моделей на задачах понимания русского языка и новые методы агрегации результатов эталонного тестирования, учитывающие предпочтения конечного пользователя. В работе представлены результаты эталонного тестирования более ста языковых моделей и их конфигураций относительно уровня человека в различных экспериментальных постановках. Предложенные бенчмарки, кодовая база, открытые рейтинги систем, проекты по оценке людей на рассматриваемых задачах и другие материалы находятся в открытом доступе.

Проблема пространственного неравенства в образовании характерна не только для России, но и для многих других стран, отличающихся значительной географической протяженностью, сложным административно-территориальным устройством и/или территориальной вариативностью системы образования. Существует целый ряд исследований, которые застрагивают отдельные проявления пространственного неравенства, однако, многие их них не подкреплены теоретической базой или единой концептуальной рамкой и редко учитывают саму структуру пространственных данных. Данное исследование фокусируется на региональном уровне, где регион рассматривается как социальная и экономическая территориальная общность, располагающаяся в границах субъекта Российской Федерации. Исследование регионального неравенства в образовании именно на российских данных представляет собой и особый научный интерес. Во-первых, разнообразие территориальных контекстов и масштаб этих различий делают российский кейс уникальным на международном уровне. Во-вторых, Россия отличается умеренным уровнем децентрализации, при которой на федеральном уровне задается структура, определяющая рамки и сферы ответственности административно-территориальных единиц в соответствии с их иерархией. Это делает интересным анализ практик и решений в сфере образования, которые могут варьировать в регионах. Наконец, в фокусе данной работы находится достаточно длительный промежуток времени, охватывающий основную часть постсоветского периода российской истории. В период СССР образование, как и многие другие сферы, было высокоцентрализованным, и формирование регионов, как субъектов образовательной политики происходило уже после распада Советского Союза.

Обучение больших нейронных сетей, достигающих в настоящее время наилучших результатов на большинстве прикладных задач, требует существенных вычислительных ресурсов. Доступ к суперкомпьютерам, обладающим достаточной мощностью, имеется только у ограниченного круга исследователей, что ограничивает возможности для развития машинного обучения как научной области. В данной работе предлагается способ для решения проблемы нехватки вычислительных ресурсов посредством добровольных вычислений, то есть использования свободных ресурсов волонтеров, подключенных к одной распределенной сети. Для решения проблем, возникающих при использовании распределенного машинного обучения в этой постановке, предлагается ряд методов, учитывающих такие её особенности, как ненадежность отдельных узлов, гетерогенность аппаратного обеспечения и сравнительно низкая скорость сетевых соединений. В частности, в работе предложена специализированная нейросетевая архитектура, устойчивая к сетевым задержкам и нестабильности узлов, разработан эффективный способ агрегации параметров моделей в неустойчивой сети, а также представлен метод для совместного предварительного обучения с учетом возможностей каждого участвующего устройства. Предложенные методы позволяют эффективно использовать мощности устройств волонтеров или вытесняемых облачных узлов при распределенном обучении нейронных сетей для широкого ряда сценариев.

Традиционная классно-урочная система уже не в полной мере отвечает запросам современных педагогов и обучающихся при том, что процессы цифровизации школы, очевидно, способствуют расширению образовательного пространства, а опыт организации обучения в период распространения пандемии Covid-19 свидетельствует о целесообразности дополнения традиционного обучения различными моделями смешанного обучения. Все это требует всестороннего анализа и глубокого осмысления профессиональной деятельности учителя в условиях смешанного обучения. Проведенное исследование посвящено изучению и определению трансформаций в проектировочном компоненте профессиональной деятельности учителя в условиях смешанного обучения и выявлению связей с мотивацией учащихся к обучению.

Основной формой участия и поддержания отношений на сайтах социальных сетей являются обмен и раскрытие информации. Однако возможности контроля и безопасности распространения информации оказываются значительно снижены по сравнению с другими форматами коммуникации. Пребывание в данной среде требует от индивидов не только владения стратегиями эффективной коммуникации, но и навыков защиты от рисков приватности в цифровой среде. Существующие исследования рассматривают онлайн коммуникацию в отрыве от вопросов приватности, тогда как многие стратегии поддержания приватности могут накладывать ограничения на возможности накопления и развития пользователями связей онлайн. В текущем исследовании рассматривается, как социальная активность пользователей сайтов социальных сетей и применение защитных мер для сохранения приватности связаны с индивидуальными «последствиями» данного поведения, которые описаны в работе в терминах социального капитала. В первой части исследования будут рассмотрены различные стратегии поддержания приватности онлайн и выявлены ключевые факторы, объясняющие их применение. Вторая часть исследования проясняет характер связи между различными ограничениями, благодаря которым пользователи достигают желаемого уровня приватности, формированием социальных связей и социальным капиталом индивидов в социальных медиа

Обнаружение и лечение рака являются первостепенными задачами науки и медицины 21 века. Сложность решения этих задач обусловлена сложностью процессов развития рака и гетерогенностью раковых мутаций в геноме. Для изучения мутационных процессов в раковых геномах, определения биомаркеров и генов-драйверов были собраны большие массивы данных раковых геномов и их различных характеристик. Однако несмотря на большое количество доступных данных, мутагенез раковых разрывов еще не был достаточно изучен и качество предсказания раковых разрывов моделями машинного обучения было намного ниже, чем для точечных раковых мутаций. Данная диссертационная работа посвящена комплексному изучению раковых разрывов с помощью методов машинного обучения. В диссертации предлагается подход по предсказанию областей повышенной плотности раковых разрывов на основе омиксных данных с помощью моделей машинного обучения. Предложенный подход был протестирован на реальных данных и превзошел другие известные на тот момент модели машинного обучения. Помимо этого, был изучен вклад различных геномных признаков в формирование областей повышенной плотности разрывов. Также было обнаружено, что области более высокой плотности разрывов более отличимы от остальных участков раковых геномов, чем участки с меньшей плотностью разрывов.

Модели оценки вероятности дефолта, а также рейтинговые модели российских коммерческих банков играют важную роль в сфере управления финансами в экономике. Повышение интереса банков к использованию рейтинговых моделей во многом обусловлено внедрением в практику новых регуляторных требований, в связи с чем возникает необходимость разработки специализированных моделей. Цель исследования состоит в создании подходов к оценке ожидаемых кредитных потерь и методов оценки вероятности дефолта на всем сроке действия финансового инструмента для российских банков. В настоящее время тема данной работы крайне актуальна и может представлять интерес как для коммерческих банков, столкнувшихся с проблемой необходимости совершенствования моделей оценки кредитного риска в связи с требованиями, появившимися с введением МСФО 9, так и для регуляторных органов и т. д.

Одна из заметных тенденций в современной логической семантике – активное использование и исследование подходов, в центре которых находятся такие категории, как «событие», «ситуация», «процесс», «состояние». Будем обобщенно называть их динамическими категориями, поскольку содержание этих понятий связано с динамикой (события и процессы происходят, ситуации могут возникать и устраняться, состояния могут сменять друг друга). Логико-семантические концепции, основывающиеся на этих категориях, можно называть семантикой событий.
В настоящее время семантика событий представляет собой влиятельную философско-лингвистическую парадигму, востребованную в различных сферах теоретических и экспериментальных исследований, однако ее онтологические аспекты представляют собой поле для продолжающихся дискуссий, а также страдают от терминологической и концептуальной неопределенности. Необходимо найти корректное теоретическое понимание категории событие и уточнить ее взаимосвязи с другими категориями, используемыми при логико-семантическом анализе естественных языков. Цель данного исследования – анализ онтологических оснований логико-семантических подходов, центральное место в которых принадлежит динамическим категориям (ситуационная семантика, нефрегевская логика, дэвидсоновская семантика событий).

Численные методы оптимизации играют важнейшую роль в решении многих прикладных задач различных областей науки, прежде всего, машинного обучения и анализа данных. Наибольшие трудности в использовании известных алгоритмов оптимизации возникают из-за негладкости целевой функции, невозможности точного вычисления ее значения и значения ее субградиентов в заданной точке, а также большой размерности задачи. В данной диссертации предлагаются различные модификации алгоритма зеркального спуска с переключениями для минимизации негладких выпуклых функций. При этом данные модификации применимы для разнообразных вариантов постановки задачи оптимизации с ограничениями типа неравенств, в том числе, для невыпуклых (квазивыпуклых) функций и ограничений, неточно заданных функций, допускающих представление в виде абстрактной модели, а также случаев онлайн и стохастической постановок задачи. Далее в диссертации предлагаются численные методы решения вариационных неравенств с монотонным оператором и обосновывается возможность применения техники рестартов адаптивного проксимального зеркального метода в случае, если оператор является сильно монотонным и удовлетворяет условию Гельдера. Также в работе впервые предлагается ускоренный метод решения седловой задачи с пониженным уровнем гладкости.

В диссертации рассмотрены рассказы о крещении Руси в составе летописей и Пролога: рассказ об Андрее Первозванном, рассказ о крещении Ольги, сюжет о варягах-мучениках, крещении Владимира (Корсунская легенда), и рассказы о крещении Киева и Новгорода. В результате исследования сделаны следующие выводы. В основе рассмотренных проложных текстов находятся летописные источники, в редких случаях с незначительными добавлениями из других текстов, однако летописные тексты всегда первичны. Рассказы Повести временных лет имеют высокую частотность препозиционного употребления клитики ся, что свидетельствует об устном происхождении рассказов. Анализ разночтений в тексте об апостоле Андрее в летописи и Прологе дал возможность подтвердить существование Свода 1165 г. Составитель проложной статьи о княгине Ольге использовал в своей работе не только летописный текст, но и компилятивную Память и Похвалу Иакова мниха, что дает возможность датировать создание Памяти и Похвалы Иакова мниха временем до 1160-х гг. (времени создания Пролога). Летописный текст об убиении варягов-мучеников появился в Начальном своде 1090-х гг., и этот летописный текст являлся единственным источником проложного жития варягов-мучеников. Вставки в Корсунскую легенду, произведенные составителем Начального свода, не являются вставками устного происхождения, а имеют в своей основе письменный источник, или являются конструктом летописца. Летописное описание крещения Новгорода было создано на основании летописного текста о крещении Киева и по его лекалам. «Недостающие» элементы сюжета о крещении Новгорода появляются постепенно, как в более поздних летописях, так и в устных повествованиях, записанных лишь в XIX в.