Ускорение, сжатие и усовершенствование нейросетевых алгоритмов классификации и распознавания объектов на изображении и в видеопотоке.Acceleration, compression, and improvement of neural network algorithms for image classification and object detection.
Соискатель:
Пономарёв Евгений Сергеевич
Руководитель:
Оселедец Иван Валерьевич (др. работы под рук-вом)
Члены комитета:
Кабатянский Григорий Анатольевич (Автономная некоммерческая образовательная организация высшего образования «Сколковский институт науки и технологий», д. ф.-м. н., председатель комитета), Горбачев Роман Александрович (ФГАОУ ВО «Московский физико-технический институт (национальный исследовательский университет)», к. т. н., член комитета), Ершов Егор Иванович (Институт проблем передачи информации им. А.А. Харкевича РАН, к. ф.-м. н., член комитета), Никоноров Артем Владимирович (Институт систем обработки изображений РАН , д.т.н., член комитета), Щур Лев Николаевич (МИЭМ им. А.Н. Тихонова ФГАОУ ВО Национальный исследовательский университет «Высшая школа экономики», д. ф.-м. н., член комитета)
Диссертация принята к предварительному рассмотрению:
27.04.2023
Диссертация принята к защите:
16.06.2023 (Протокол № 22)
Дисс. совет:
Совет по инженерным наукам и прикладной математике
Дата защиты:
19.09.2023
Диссертационное исследование посвящено разработке методов ускорения, сжатия нейронных сетей и построению системы по оценке времени их исполнения на конечных устройствах. В работе ключевыми являются три результата. Во–первых, создан алгоритм сжатия предварительно обученных нейронных сетей, основанный на многократном применении тензорных аппроксимаций к весам слоев нейронных сетей. Во-вторых, представлен метод ускорения предварительно обученных глубоких нейронных сетей. Ускорение достигается за счет замены больших блоков сети на крошечные полносвязные слои. Этот метод вдохновлен аналогией с идеями сокращения размерности для решения уравнений в динамических системах. Оба представленных подхода апробированы на задачах компьютерного зрения и продемонстрировали свою эффективность в сравнении с существующими методами сжатия и ускорения вывода нейронных сетей. В-третьих, построен метод оценки времени работы нейросетевых моделей для заданных программной реализации и целевого устройства. Создана система по сбору и обработке экспериментальных данных, и применению алгоритмов машинного обучения для предсказания времени исполнения моделей по их параметризации.
Диссертация [*.pdf, 3.46 Мб] (дата размещения 19.07.2023)
Резюме [*.pdf, 1.18 Мб] (дата размещения 19.07.2023)
Summary [*.pdf, 616.19 Кб] (дата размещения 19.07.2023)
Публикации, в которых излагаются основные результаты диссертации
Latency Estimation Tool and Investigation of Neural Networks Inference on Mobile GPU (смотреть на сайте журнала)
Отзывы
Отзыв научного руководителя
- Отзыв научного руководителя (дата размещения 27.04.2023)
Отзыв члена Комитета
- Отзыв члена Комитета Л.Н. Щура (дата размещения 7.09.2023)
- Отзыв Председателя Комитета Г.А. Кабатянского (дата размещения 20.09.2023)
- Отзыв члена Комитета А.В. Никонорова (дата размещения 20.09.2023)
- Отзыв члена Комитета Е.И. Ершова (дата размещения 20.09.2023)
- Отзыв члена Комитета Р.А. Горбачева (дата размещения 20.09.2023)
Сведения о результатах защиты:
Комитет по диссертации рекомендовал присудить Е.С. Пономарёву ученую степень кандидата наук по прикладной математике (Протокол № 2 от 19.09.2023); Решением диссертационного совета (протокол № 44 от 16.10.2023г.) присуждена ученая степень кандидата наук по прикладной математике.
См. на ту же тему
Извлечение внутренних закономерностей спомощью методов самообучения:эффективные архитектуры, функции потерь, ицелевые задачи на основе особенностей в данныхДокторская диссертация
Соискатель: Макаров Илья Андреевич
Ускорение, сжатие и усовершенствование нейросетевых алгоритмов классификации и распознавания объектов на изображении и в видеопотоке.Кандидатская диссертация
Соискатель:
Руководитель: Оселедец Иван Валерьевич
Распознавание объектов для построения трёхмерных семантических картКандидатская диссертация
Соискатель: Габдуллин Булат Рамзиевич
Руководитель: Конушин Антон Сергеевич
Дата защиты: 23.06.2026