Методы машинного обучения для обработки пользовательских текстов в сети интернетMachine learning approaches to user-generated and user-targeted textual content analysis

Диссертация посвящена методам машинного обучения для анализа создаваемого пользователями и адресованного им онлайн-контента, а также вычислительным вопросам взаимодействия человека с рекомендательными системами. Для пользовательского контента предложены метод выделения советов с использованием машиночитаемого тезауруса, почти не требующий размеченных данных, фильтрация предложений перед извлечением аспектов без учителя и сквозная (end-to-end) модель AspeRa, предсказывающая оценки к отзывам. Поставлена задача определения предпочитаемого грамматического рода; для неё подготовлен набор данных и предложен метод «мешок дуг» с использованием синтаксического разбора в рамках формализма грамматики зависимостей. На материале визуальной рекламы показано, что линейная комбинация предсказаний унимодальных (одномодальных) моделей для ряда задач анализа изображения и текста на момент исследования была способна превзойти сквозные мультимодальные архитектуры. В работе рассматривается многоязычная модель открытого извлечения информации (open information extraction), использующая заимствованные из компьютерного зрения идеи одноэтапного выделения объектов, и её адаптация к анализу сочинительных связей в предложениях; при сопоставимом качестве обе модели работают в несколько раз быстрее аналогов. Применительно к рекомендательным системам (помимо AspeRa) исследованы подходы к моделированию откликов пользователей. В целом работа показывает, что при нехватке разметки и вычислительных ресурсов опора на лексико-семантические ресурсы при формулировке запросов к предобученным моделям и целенаправленный отбор данных оправданы, а перенос архитектурных решений из смежных областей способен дать существенный прирост в скорости обработки текстов; простое объединение унимодальных моделей — практичная альтернатива монолитным мультимодальным архитектурам, так как компоненты можно заменять независимо; синтаксические признаки вместо лексических снижают зависимость моделей от стереотипных потенциально нежелательных ассоциаций; при моделировании откликов пользователей рекуррентные архитектуры конкурируют с архитектурами на основе Transformer, а выбор лучшей из них может существенно зависеть от данных.