Применение ML в кибербезопасности

2024/2025

Статус: Маго-лего

Кто читает: Кафедра информационной безопасности киберфизических систем

Когда читается: 1 модуль

Охват аудитории: для своего кампуса

Язык: русский

Кредиты: 3

Полная версия программы учебной дисциплины Задать вопрос

Аннотация

Дисциплина направлена на изучение возможностей искусственного интеллекта в обеспечении эффективной защиты бизнес-систем в режиме реального времени.В рамках изучения дисциплины студенты узнают возможности актуальных алгоритмов машинного обучения и сферы их применения, научатся основным принципам и приемам работы с данными, познакомятся с системами анализа поведения пользователя, узнают основные концепции нейронных сетей, научатся применять инструменты современных программных платформ, использовать высокоуровневые программные средства, а также разрабатывать надежные модели машинного обучения.

Цель освоения дисциплины

Познакомить студентов с методами машинного обучения в задачах обеспечения кибербезопасности
Познакомить студентов с базовой профессиональной терминологией машинного обучения
Формирование у студентов навыка использования программных средств в решении задач машинного обучения в сфере кибербезопасности

Планируемые результаты обучения

Определяет: - основные подходы к оценке качества в задачах классификации и регрессии; - основные принципы ансамблирования моделей; - возможности актуальных алгоритмов машинного обучения, которые широко используются на практике, в основных сферах их применения.
Использует: - базовую и профессиональную терминологию в области анализа данных и машинного обучения; - навыки построения и проверки качества моделей машинного обучения.
Самостоятельно получает и углубляет знания и формирует представление о состоянии методов машинного обучения.
Определяет основные принципы поиска, сбора, очистки, хранения, обработки, анализа и визуализации данных.
Использует методы поиска, сбора, и хранения большие объемов данных.
Определяет: - как связана статистика и машинное обучение; - основные понятия математической статистики; - различия между описательной и логической статистикой.
Демонстрирует применение на практике основных показателей описательной статистики.
Внедряет: - методы визуализации данных с использованием высокоуровневых библиотек; - методы статистики для очистки, преобразования и анализа данных.
Определяет возможности, методологию и концептуальные ограничения применения машинного обучения в кибербезопасности.
Анализирует и выбирает эффективные модели для прикладных задач.
Применяет модели машинного обучения для решения прикладных задач с учетом требований информационной безопасности.
Различает основные концепции и методы машинного обучения, применяемые при решении задач регрессии и классификации.
Применяет методы ансамблирования моделей машинного обучения.
Решает стандартные задачи с использованием высокоуровневых программных средств машинного обучения.
Распознает основные концепции алгоритма кластеризации k-means.
Применяет инструменты современных программных платформ Data Science and Machine Learning для решения задач кластеризации.
Решает задачи прогнозирования поведения временных рядов с использованием python.
Определяет основные концепции нейронных сетей и методы их обучения.
Разбирается: - как строить и обучать многослойную нейронную сеть на основе персептронов; - как строить и обучать глубокую сверточную сеть.
Использует инструменты современных программных платформ Data Science and Machine Learning для решения задач машинного обучения с помощью нейронных сетей.
Демонстрирует навыки использования высокоуровневых программных средств для построения нейронных сетей.
Определяет: - понятие и назначение MLOPS; - как правильно построить цикл обучения и отправки модели в производственную среду; - основные показатели мониторинга моделей машинного обучения.
Применяет инструменты современных программных платформ контейнеризации для упаковки и развертывания моделей.
Интерпретирует значения показателей мониторинга моделей машинного обучения.
Использует высокоуровневые программные средства для построения конвейеров машинного обучения.
Определяет: - существующие методы состязательных атак; - существующие методы защиты от атак, их плюсы и минусы.
Разрабатывает модели ML, обладающие высокой степенью устойчивости к атакам.
Внедряет методы интерпретации моделей ML.
Использует высокоуровневые программные средства для тестирования устойчивости моделей машинного обучения.
Определяет основные подходы к оценке качества в задачах классификации и регрессии.
Определяет основные принципы ансамблирования моделей.
Определяет возможности актуальных алгоритмов машинного обучения, которые широко используются на практике, в основных сферах их применения.
Использует базовую и профессиональную терминологию в области анализа данных и машинного обучения.
Определяет основные принципы поиска, сбора, очистки, хранения, обработки, анализа и визуализации данных.
Использует методы поиска, сбора и хранения больших объемов данных.
Определяет как связана статистика и машинное обучение.
Определяет основные понятия математической статистики.
Определяет различия между описательной и логической статистикой.
Внедряет методы визуализации данных с использованием высокоуровневых библиотек.
Внедряет методы статистики для очистки, преобразования и анализа данных.
Владеет методологией решения задач машинного обучения с учетом требований информационной безопасности.
Понимает методы ансамблирования моделей машинного обучения.
Разбирается в правилах решения стандартных задач с использованием высокоуровневых программных средств машинного обучения.
Владеет методами классификации для решения практической задачи кибербезопасности.
Определяет инструменты современных программных платформ Data Science and Machine Learning для решения задач кластеризации.
Разбирается в правилах решения задач прогнозирования поведения временных рядов с использованием python.
Разбирается как строить и обучать многослойную нейронную сеть на основе персептронов.
Разбирается как строить и обучать глубокую сверточную сеть.
Понимает, как использовать инструменты современных программных платформ Data Science and Machine Learning для решения задач машинного обучения с помощью нейронных сетей.
Понимает, как использовать высокоуровневые программные средства для построения нейронных сетей.
Определяет понятие и назначение MLOPS.
Определяет как правильно построить цикл обучения и отправки модели в производственную среду.
Определяет основные показатели мониторинга моделей машинного обучения.
Понимает, как использовать инструменты современных программных платформ контейнеризации для упаковки и развертывания моделей.
Разбирается, как использовать высокоуровневые программные средства для построения конвейеров машинного обучения.
Определяет существующие методы состязательных атак.
Определяет существующие методы защиты от атак, их плюсы и минусы.
Разрабатывает модели ML, обладающие высокой степенью устойчивости к атакам.

Содержание учебной дисциплины

Тема 1. Введение в машинное обучение
Тема 2. Сбор, очистка и обработка данных
Тема 3. Применение статистики ML и визуализация данных
Тема 4. Машинное обучение в контексте кибербезопасности
Тема 5. Классические методы машинного обучения. Обучение с учителем
Тема 6. Классические методы машинного обучения. Обучение без учителя. Другие методы обучения
Тема 7. Основы нейронных сетей и глубокое обучение
Тема 8. Внедрение и развертывание моделей ML
Тема 9. Методы обеспечения безопасности ML

Элементы контроля

Домашнее задание, проверяемое преподавателем (тема 4)
Процедура сдачи: 1. Студент выполняет все предлагаемые этапы задания (для каждого задания предусмотрены индивидуальные требования). 2. Студент прикрепляет ссылку на выполненное задание в LMS. По ссылке есть доступ. 3. Преподаватель в LMS оставляет обратную связь на выполненную работу
Домашние задание с проверкой на вебинаре и с автопроверкой (темы 2 и 3)
Процедура сдачи: 1. Студент выполняет все предлагаемые этапы задания. 2. Студент прикрепляет ссылку на выполненное задание в LMS. По ссылке есть доступ. 3. Название файла содержит фамилию и имя студента и номер ДЗ
Тесты по лекциям (темы 1,3,5)
Процедура сдачи: Студенты выполняют тест в LMS. Тест содержит 10 вопросов. При ответе на вопрос нужно выбрать один или несколько правильных ответов. В этом случае в тексте вопроса будет дано особое указание. Время выполнения теста - 30 минут. Студент может пройти тест 2 раз.
Хакатон
Процедура сдачи: 1. Подготовка - Определить тему хакатона. - Подготовить необходимые ресурсы: данные, документацию, инструменты. - Создать группы участников (по 3-5 человек). 2. Реализация - на заключительном вебинаре).Команды работают над проектами в течении отведенного времени. 3. Подготовка презентации: - Каждая команда готовит краткую презентацию (3-5 минут) своего проекта. - Определение ключевых моментов: проблема, решение, демонстрация работы. 4. Презентация проектов и обсуждение результатов - Команды по очереди представляют свои проекты - Команды получают обратную связь от преподавателя.
Итоговое практическое задание (экзамен)
Итоговый экзамен по дисциплине проводится в форме решения итогового практического задания. 1. Задание выполняется в предварительно сформированных командах 2. Перед выполнением задания необходимо определить роли каждого из участников команды 3. Команда выполняет все этапы итогового задания в соответствии с требованиями и поставленной задачей. 4. Прикрепляет ссылку в LMS на выполненное задание, доступ по ссылке открыт для комментирования. 5. Название файла содержит наименование команды и название ДЗ (Итоговое практическое задание) 6. Подготовлена презентация для защиты своего итогового практического задания. 7. Команда защищает свое итоговое практическое задание перед преподавателем и одногруппниками онлайн. 8. На вебинаре преподаватель даёт студентам обратную связь и выставляет оценк

Промежуточная аттестация

2024/2025 1st module
0.2 * Домашнее задание, проверяемое преподавателем (тема 4) + 0.1 * Домашние задание с проверкой на вебинаре и с автопроверкой (темы 2 и 3) + 0.4 * Итоговое практическое задание (экзамен) + 0.1 * Тесты по лекциям (темы 1,3,5) + 0.2 * Хакатон

Список литературы

Авторы

Аксенова Ольга Вениаминовна
Евсютин Олег Олегович
Яганова Мадина Владимировна

Программа дисциплины