Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

Трансформеры широко применяются для моделирования последовательностей, однако по мере роста размера моделей и объёмов данных, их обучение и применение требуют всё больше вычислительных ресурсов и всё чаще упираются в практические ограничения. В реальных условиях вычислительные ресурсы и доступная память всегда конечны, поэтому повышение эффективности важно как для научных исследований, так и для промышленного использования.

В диссертации предлагаются методы повышения эффективности моделей на основе трансформеров, направленные на снижение затрат видеопамяти и уменьшение времени выполнения при сохранении конкурентоспособного качества моделей. Подходы оцениваются в задачах обработки естественного языка (NLP) и рекомендательных систем (RecSys) - двух прикладных областях крупномасштабного моделирования последовательностей. Во-первых, предлагается метод параметроэффективного дообучения (PEFT), который разреживает обновления линейных преобразований в MLP: обновления переносятся в более информативное низкоразмерное пространство, благодаря чему в ходе дообучения изменяется лишь небольшая структурированная часть весов модели. Во-вторых, вводятся два метода обучения для последовательных рекомендаций при большом каталоге, использующие стохастические аппроксимации целевой функции кросс-энтропии, что делает оптимизацию масштабируемой. Наконец, исследуется феномен неавторегрессионного декодирования в авторегрессионных больших языковых моделях: выявляются и анализируются внутренние представления, обеспечивающие возможность такого поведения. Эксперименты в NLP и RecSys показывают, что предложенные подходы устойчиво превосходят сильные базовые методы при сопоставимых вычислительных бюджетах.

Uncertainty quantification (UQ) has emerged as a promising approach for addressing several key challenges in natural language processing (NLP), particularly in mitigating the risks of errors in text classification and detecting hallucinations or low-quality outputs in text generation. Although UQ is a rapidly growing field within classification tasks, state-of-the-art methods often show poor performance or underperform trivial methods for ambiguous tasks such as toxicity detection. Furthermore, despite significant progress in UQ techniques for text classification tasks, applying UQ to large language models (LLMs) introduces additional complexity due to the conditional dependency between generation steps and the varying influence of tokens on the predictions in autoregressive models. As a result, many UQ techniques that are effective for classification models are either ineffective or not directly applicable to LLMs. This thesis addresses these challenges by developing novel methods for robust uncertainty quantification for both text classification and text generation tasks. For classification tasks, we propose a hybrid approach that combines both epistemic and aleatoric uncertainty, outperforming existing methods and providing a more reliable selective classification. For LLMs, we introduce several innovative techniques that leverage attention-based features or token embeddings to quantify uncertainty effectively. These methods are designed to handle the sequential and conditional nature of LLM outputs, enabling improved selective generation and fact-checking.