• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
2025/2026

Комплаенс ИИ-систем: регулирование и ответственность

Статус: Маго-лего
Когда читается: 3 модуль
Охват аудитории: для своего кампуса
Язык: русский
Кредиты: 3
Контактные часы: 20

Программа дисциплины

Аннотация

Дисциплина направлена на формирование у слушателей системного понимания нормативных требований, рисков и механизмов контроля, связанных с разработкой, внедрением и использованием систем искусственного интеллекта в корпоративной и публичной среде. В рамках курса рассматриваются правовые основы регулирования ИИ-технологий в России и за рубежом, включая подходы к оценке рисков, обязанностям разработчиков и поставщиков, требованиям к прозрачности алгоритмов, управлению данными, обеспечению безопасности решений и предотвращению дискриминационных или вредоносных последствий. Особое внимание уделяется взаимодействию юридических и технических механизмов комплаенса, вопросам ответственного внедрения ИИ, документированию процессов принятия решений и распределению ответственности между участниками жизненного цикла ИИ-систем.
Цель освоения дисциплины

Цель освоения дисциплины

  • Целью освоения дисциплины является формирование у обучающихся системного представления о правовых и комплаенс-механизмах регулирования искусственного интеллекта, а также развитие практических навыков анализа рисков и распределения ответственности при разработке, внедрении и использовании ИИ-систем в деятельности организаций.
Планируемые результаты обучения

Планируемые результаты обучения

  • Анализировать регуляторные требования к ИИ-системам с учётом риск-ориентированного подхода и специфики сферы их применения.
  • Оценивать правовые, комплаенс- и репутационные риски, связанные с внедрением и эксплуатацией ИИ-систем в организации.
  • Классифицировать ИИ-системы по уровню риска и определять применимые к ним режимы контроля и надзора.
  • Проектировать базовые элементы комплаенс-модели для ИИ-систем, включая процедуры документирования, внутреннего контроля и алгоритмического аудита.
  • Разграничивать ответственность между разработчиками, операторами и пользователями ИИ-систем с учётом характера вреда и степени участия человека в принятии решений.
  • Аргументировать правовые позиции и управленческие решения в сфере ИИ-комплаенса при взаимодействии с регуляторами, руководством и иными заинтересованными сторонами.
Содержание учебной дисциплины

Содержание учебной дисциплины

  • Тема 1. Искусственный интеллект как объект правового регулирования
  • Тема 2. Комплаенс ИИ-систем: принципы, архитектура, процедуры
  • Тема 3. Ответственность за вред и ошибки ИИ-систем
  • Тема 4. Высокорисковые ИИ-системы и практики снижения регуляторных рисков
Элементы контроля

Элементы контроля

  • блокирует часть оценки/расчета Written assignment
  • блокирует часть оценки/расчета Activity
Промежуточная аттестация

Промежуточная аттестация

  • 2025/2026 3rd module
    0.5 * Activity + 0.5 * Written assignment
Список литературы

Список литературы

Рекомендуемая основная литература

  • «Искусственный интеллект» и технологии «искусственного интеллекта» в договорном праве: цивилистич... : монография, Подузова, Е. Б., 2023
  • Искусственный интеллект в России: технологии и рынки, , 2025
  • Искусственный интеллект, аналитика и новые технологии : пер. с англ., , 2022
  • Искусственный интеллект. Введение в многоагентные системы : учебник для вузов, Бессмертный, И. А., 2024
  • Цифровые технологии и искусственный интеллект в современной политике : учебник, Володенков, С. В., 2024

Рекомендуемая дополнительная литература

  • Автономный искусственный интеллект. — 6-е изд., электрон. — (Адаптивные и интеллектуальные системы) - 978-5-93208-674-2 - Жданов А. А. - 2024 - Москва: Лаборатория знаний - https://ibooks.ru/bookshelf/396328 - 396328 - iBOOKS
  • Безопасность систем искусственного интеллекта : учебное пособие / П. С. Ложников, А. Е. Самотуга, С. С. Жумажанова, А. Е. Сулавко. — Омск : ОмГТУ, 2023 — Часть 2 : Доверенный искусственный интеллект — 2023. — 74 с. — ISBN 978-5-8149-3731-5. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/421598 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
  • Искусственный интеллект - для вашего бизнеса? : руководство по оценке и применению, Берджесс, Э., 2025
  • Искусственный интеллект и экономика : работа, богатство и благополучие в эпоху мыслящих машин, Бутл, Р., 2023
  • Как Alibaba использует искусственный интеллект в бизнесе, Сетевое взаимодействие и анализ данных, пер. с кит. Кирилл Батыгин, 359 с., Цзэн, М., 2022
  • Правовая аналитика : студенты и искусственный интеллект на экзамене, Исаков, В. Б., 2024
  • Ценность ваших решений : как современные технологии и искусственный интеллект меняют наше будущее, Евгеньев, А., 2024

Авторы

  • Ходунов Евгений Сергеевич