Безопасность
Безопасность ИИ / MLSecOps

Безопасность ИИ / MLSecOps

От железа и ОС — к производительному коду

В июле

3 месяца

Онлайн

Для кого этот курс?

  • Разработчики на системных языках (C, С++, Rust), желающие расширить свои заниня
  • Backend-разработчики, которые планируют или работают с высокопроизводительными системами
  • Архитекторы и тимлиды, которым необзходимо проектировать производительные компоненты и проводить разбор инцидентов/узких мест

Необходимые знания

  • Опыт программирования на C/C++
  • Знания структур данных

Чему научится студент на курсе?

  • Понимать, как код исполняется от железа к ОС: CPU/регистры, иерархия памяти и кэши, стек/куча, виртуальная память (MMU/TLB)
  • Разбираться, как устроен исполняемый файл и загрузка: статическая/динамическая линковка, анатомия ELF
  • Понимать устройство ядра как менеджера ресурсов: системные вызовы, прерывания, page fault, copy-on-write, процессы/потоки и планирование
  • Писать системный код на уровне API ОС: управление процессами, низкоуровневый I/O, управление памятью (brk/sbrk, mmap), многопоточность и синхронизация (pthread, mutex, semaphore, condition variables)
  • Работать с IPC: сигналы, пайпы/FIFO, shared memory (shm_open + mmap) и принципы корректной синхронизации между процессами
  • Отлаживать и профилировать системный/многопоточный код: strace, gdb, valgrind, AddressSanitizer/ThreadSanitizer

Почему стоит освоить?

 
Курс позволит закрыть разрыв между написанием кода и пониманием почему он не работает или тормозит на уровне ОС и железа. Часто эти знания критично необходимы для собеседований и первых задач в системной/инфраструктурной разработке.
 
Вы сможете на практике разобраться как устроена ОС: процессы/потоки, память, IPC. Также, в программу курса включен блок про отладку и профилирование.

Процесс обучения

Занятия в OTUS — это не заранее отснятый материал. Вебинары проходят в режиме реального времени, где преподаватели-практики рассказывают об актуальных кейсах и инструментах, которые нужны им в работе сейчас. Вы сможете активно участвовать голосом, практиковаться, задавать вопросы и получать обратную связь. Такой формат дает реальный результат. 

А если вы не смогли посетить занятие в реальном времени, то сможете посмотреть его в записи и задать вопрос преподавателю в закрытом чате.

Портфолио

Индивидуальная разработка итоговой проектной работы

Обучайтесь у экспертов


Программу ведут действующие специалисты

Перспективы

 

Получите знания, которые помогут повысить вашу востребованность и доход

Партнеры

Многие студенты еще во время прохождения первой части программы находят или меняют работу, а к концу обучения могут претендовать на повышение в должности.

  • Карьерные мероприятия в сообществе
    Публичный разбор резюме
    Публичное прохождение собеседования и воркшопы
  • Разместите свое резюме в базе OTUS и сможете получать приглашения на собеседования от партнеров
* Информация в этом разделе не предназначена для корпоративного обучения
Формат обучения

Интерактивные вебинары


2 онлайн-трансляции по 2 ак.часа в неделю. Доступ к записям и материалам остается навсегда

Практика

 

Домашние задания + проектная работа, для усиления вашего портфолио и компетенций

Активное комьюнити

Живое общение с преподавателями на вебинарах, переписки в чате и развёрнутые ответы при проверке ДЗ

Программа

ИИ-системы как объект технической защиты

Тема 1: Введение в безопасность ИИ-систем. Ландшафт угроз, роли специалистов ИБ и сценарии применения ИИ в бизнесе

Тема 2: Архитектура ИИ-систем: модели машинного обучения, LLM, RAG, ИИ-агенты, внешние инструменты и точки атаки

Тема 3: Стандарты, рекомендации и нормативные требования в области безопасности ИИ. Применение требований в технической практике

Тема 4: Моделирование угроз для ИИ-систем: активы, границы доверия, сценарии атак и оценка риска // ДЗ

Атаки на LLM и генеративные приложения

Тема 1: Prompt injection и извлечение системных инструкций: прямые и косвенные атаки на LLM-приложения // ДЗ

Тема 2: Jailbreak-атаки, обход ограничений модели и злоупотребление возможностями генеративного ИИ // ДЗ

Тема 3: Утечки данных, небезопасная обработка вывода модели и риски интеграции LLM с приложениями // ДЗ

Тема 4: Методика практической проверки защищенности LLM-приложения: сценарии тестирования, доказательства эксплуатации и оформление результатов // ДЗ

Безопасность RAG и ИИ-агентов

Тема 1: Устройство RAG-систем и их поверхность атаки: база знаний, векторный поиск, контекст и разграничение доступа

Тема 2: Атаки на RAG: вредоносные документы, отравление базы знаний, утечки контекста и обход контроля доступа // ДЗ

Тема 3: ИИ-агенты и автономные действия: полномочия, инструменты, критические операции и сценарии злоупотребления

Тема 4: Атаки на ИИ-агентов и подключаемые инструменты: косвенные инструкции, опасные действия, внешние сервисы и MCP // ДЗ

Безопасность моделей, данных и инфраструктуры MLSecOps

Тема 1: Угрозы классического машинного обучения: отравление данных, уклонение от распознавания, закладки и извлечение модели

Тема 2: Цепочка поставок ИИ-систем: сторонние модели, наборы данных, библиотеки, зависимости и репозитории артефактов // ДЗ

Тема 3: Безопасность среды исполнения ИИ-сервисов: API, контейнеры, секреты, права доступа, загрузка моделей и небезопасные артефакты // ДЗ

Тема 4: MLSecOps и безопасный жизненный цикл ИИ-системы: контроль изменений, проверки перед выпуском, управление рисками

Обнаружение атак на ИИ-системы

Тема 1: Телеметрия ИИ-систем: какие события собирать от LLM, RAG, агентов, API и внешних инструментов

Тема 2: Обнаружение атак на ИИ-системы: признаки prompt injection, утечек данных, опасных действий агента и злоупотребления сервисом // ДЗ

Проектная работа

Тема 1: Выбор темы и организация проектной работы

Тема 2: Консультация по проектам и домашним заданиям

Тема 3: Защита проектных работ

Тема 4: Подведение итогов курса

Также вы можете получить полную программу, чтобы убедиться, что обучение вам подходит

Выпускной проект

 
Тема проектной работы: "Микро-Docker: разработка собственной примитивной системы контейнеризации"
 
Студент реализует минимальную систему контейнеризации, которая запускает процесс в изолированном окружении и управляет его жизненным циклом. В результате проектной работы должен быть работающий прототип микро-контейнера и краткая документация (архитектура, ограничения, инструкция запуска).

Преподаватель

Руководитель курса

Сергей Терешин

Специалист по решениям информационной безопасности

6 лет в Otus
223 занятия
933 студента

Сертифицированный специалист по решениям информационной безопасности от компании Check Point, McAfee, Group -IB, Microsoft, Positive Technologies, Лаборатория Касперского. Опыт в отрасли телеком/ИТ/ИБ более 18 лет. С 2019 года работает в presale. Работал в presale ИБ в Монт, presale по решениям O365 в Microsoft, был руководителем проектов по presale Облачных и Цифровых решений в МТС. Сейчас работает в дистрибьюторе и отвечает за развитие бизнеса ИБ в регионе.. 10 лет проработал в телеком- операторе системы Транснефть в качестве инженера по ИТ, руководителя Регионального Центра Управления. Спроектировал, внедрил концепцию централизованного управления сетью связи, обеспечил безопасность предложенного решения. Участвовал в организации и проведении Чемпионата мира по футболу 2018 в Самаре в качестве руководителя группы технической поддержки. Проектирует и внедряет комплексные архитектурные решения по ИБ для предприятий различных отраслей деятельности. Закончил Поволжский Государственный Университет Телекоммуникаций и Информатики, 2007, Инженер по сетям связи и системам коммутации.

Преподает на курсах

  • Информационная безопасность. Базовый уровень
  • Внедрение и работа в DevSecOps
  • Информационная безопасность. Продвинутый уровень
  • Безопасность ИИ / MLSecOps

Эксперты-практики делятся опытом, разбирают кейсы студентов и дают развернутый фидбэк на домашние задания

Этот курс может оплатить ваш работодатель

Обучайтесь за счёт работодателя или разделите оплату 50/50
  • Подробно расскажем об интересующем вас курсе
  • Объясним, как договориться с работодателем
  • Сообщим стоимость обучения и варианты оплаты
  • Ответим на вопросы
  • Предоставим шаблон договора и счёт на оплату

Подтверждение знаний и навыков

OTUS осуществляет лицензированную образовательную деятельность.

Вы получите сертификат о прохождении обучения, а также можете получить удостоверение о повышении квалификации.

После обучения:

  • Удостоверение о повышении квалификации: если вы успешно защитили выпускной проект и готовы предоставить копию документа о высшем или среднем профессиональном образовании

  • Доступ к учебным материалам курса

  • Ваш личный проект, который поможет проходить собеседования

Частые вопросы

Смогу ли я совмещать учебу с работой?
Да. Программа курса рассчитана на студентов, у которых мало времени. Лекции проводим дважды в неделю, домашние задания — не чаще 1 раза в неделю.
Обязательно ли выполнять и защищать выпускной проект?
Для получения сертификата OTUS и УПК (удостоверение повышения квалификации государственного образца) необходимо сдать проект. Кроме того, проект необязательно защищать перед аудиторией, а можно сдать в чате с преподавателем. Для получения УПК также понадобится предъявить документ об образовании.
Обязательно ли выполнять все домашние задания?
Да, если хотите хорошо отточить навыки. На курсе будут практические домашние задания, их выполнение занимает примерно 2-3 часа.
Что, если в середине курса я не смогу продолжать обучение?
Вы можете бесплатно перейти в другую группу. Но только один раз.
Я могу вернуть деньги?
Да, мы можем вернуть деньги за то время курса, которое вы ещё не успели отучиться. Например, если курс длится пять месяцев, а вы отучились один, мы вернём деньги за оставшиеся четыре месяца за вычетом фактически понесенных расходов.
Может ли мой работодатель оплатить курс?
Да. Когда свяжетесь с нашим менеджером, уточните, что оплачивать курс будет ваш работодатель.
Остались вопросы?
Оставляйте заявку и задавайте вопросы менеджеру, команда курса с ним на связи и постарается дать вам исчерпывающую информацию.