Начало занятий 20 июня

Deep Learning Engineer

Общая стоимость: 40 000 ₽
В месяц: 15 000 ₽
4 часа в неделю
3 месяца
О курсе

Программа курса создана специально для тех, кто уже знаком с классическим машинным обучением и хочет погрузиться в мир нейронных сетей и глубокого обучения, получив навыки уровня Middle/Senior. Знания также пригодятся начинающим специалистам в нейронных сетях, которые намерены быстро и систематизировано выйти на высокие позиции в крупных IT-компаниях.

В течение обучения вы сможете выбрать готовую или спроектировать собственную архитектуру нейронной сети, реализовать её на Python с помощью фреймворка pyTorch для эффективного решения задач анализа данных в таких областях, как:
– компьютерное зрение,
– обработка естественных языков,
– анализ социальных графов,
– предиктивная аналитика и др.

Программа содержит последние наработки в области глубокого обучения и подготовлена признанным экспертом в этой области. Вы ответите на вопросы:
– Что такое нейронные сети?
– Какими они бывают?
– Какие задачи и как можно решить с их помощью?

Интенсивность: 2 онлайн-вебинара в неделю по 2 часа каждый и от 1 до 4 часов на домашнюю работу.

Программа курса
Модуль 1
Модуль 2
Модуль 3
Модуль 4
Модуль 5
Введение в нейронные сети и глубокое обучение
В первом модуле участники познакомятся с нейронными сетями и задачами которые можно решить с их помощью, а так же воспользуются фреймворком pyTorch для создания первой нейронной модели.
Искусственный интеллект и другие задачи которые можно решать с помощью нейронных сетей
Участники узнают что такое искусственные нейроны для того, чтобы понимать из чего состоят искусственные нейронные сети
Смогут определять какие задачи можно решить с помощью нейронных сетей для того, чтобы формализовать абстрактные задачи от заказчика
Научатся пользоваться и искать необходимые функции в библиотеке pyTorch для того чтобы иметь возможность реализовывать нейронные сети.
20 июня, 20:00 — 21:30
Теоретические основы обучения нейронных сетей
Участники вспомнят(узнают) необходимую теорию для того чтобы успешно пройти данный курс
Узнают как реализовать свою первую модель машинного обучения для того чтобы уметь решать задачу классификации
23 июня, 10:00 — 11:30
Домашние задания: 1
ДЗ
Логистическая регрессия на pyTorch. Дополнить пропущенный код модели логистической регрессии.
Погружение в pyTorch
Участники узнают о том как происходит обучение нейронных сетей в pyTorch для того чтобы реализовывать глубокие нейронные сети
Познакомятся с фреймворком pyTorch для того чтобы искать необходимые классы и методы
27 июня, 20:00 — 21:30
Домашние задания: 1
ДЗ
Классификация рукописных цифр 1. 1. Дополнить код однослойной полносвязной сети для классификации рукописных цифр
2. Изменить архитектуру классификатора добавив дополнительные слои
Переобучение и регуляризация нейронных сетей
Участники узнают что такое переобучение и как с ним бороться для повышения эффективности своих моделей
30 июня, 10:00 — 11:30
Домашние задания: 1
ДЗ
Переобучение 1. Добиться от классифкатора рукописных цифр переобучения за счет изменения архитектуры и гиперпараметров.
Взрыв и затухание градиентов
Участники научатся бороться с проблемой взрыва/затухания градиентов для того чтобы обучать глубокие нейронные сети
4 июля, 20:00 — 21:30
Домашние задания: 1
ДЗ
Нормировка 1. Реализовать инициализацию весов сети классификатора методами Хе/Ксавьера и сравнить эффективность с инициализацией по-умолчанию
Основные архитектуры и методы обучения нейронных сетей.
Участники поработают с базовыми архитектурами нейронных сетей, и научатся решать типичные задачи анализа данных.
Основные архитектуры нейронных сетей: Автокодировщики
Участники узнают какие задачи можно решать с помощью автокодировщиков и смогут их создавать для решения этих задач
7 июля, 10:00 — 11:30
Домашние задания: 1
ДЗ
Автокодировщик. Дополнить код автокодировщика
Основные архитектуры нейронных сетей: Сверточные сети
Участники смогут создавать сверточные нейронные сети для решения задач компьютерного зрения
Применять операцию обратную свертке для реализации сверточных автокодировщиков
11 июля, 20:00 — 21:30
Домашние задания: 1
ДЗ
Сверточный классификатор. 1. Реализовать многослойный сверточный классификатор рукописных цифр
2. Оптимизировать гиперпараметры модели
Основные архитектуры нейронных сетей: Рекуррентные сети
Участники смогут создавать рекуррентные сети для решения задач обработки последовательностей и естественных языков
14 июля, 10:00 — 11:30
Домашние задания: 1
ДЗ
Создаем Википедию. Дополнить код модели посимвольной генерации
Адаптивные методы градиентного спуска
Участники научатся применять продвинутые методы градиентного спуска для ускорения обучения нейронных сетей
18 июля, 20:00 — 21:30
Домашние задания: 1
ДЗ
Адаптивные методы градиентного спуска. Сравнить SGD, RMSProp и ADAM для задачи классификации изображений одежды.
Нарисовать графики ошибки для 3 методов на тренировочном и тестовом множестве с дисперсией для разных запусков.
Ошибки в реализации нейронных сетей
Участники научатся применять методы идентификации ошибок в реализации нейронных сетей для успешного применение нейросетей.
21 июля, 10:00 — 11:30
Домашние задания: 1
ДЗ
Переобучение 2. Добиться переобучения сверточной сети для задачи классификации изображений одежды с учетом новых методов обучения
Современные архитектуры нейронных сетей
В этом модуле мы разберем и реализуем ключевые архитектуры нейронных сетей для решения типичных задач компьютерного зрения, обработки естественных языков, анализа графов и т.д. А так же подробно рассмотрим общие концепции используемые при проектировании и обучении современных архитектур.
Обзор: Inception и ResNet
Участники gознакомятся с одной из самых популярных глубоких архитектур компьюетрного зрения и узнают за счет чего можно обучать очень глубокие нейронный сети
25 июля, 20:00 — 21:30
Домашние задания: 1
ДЗ
Блоки из нейросетей. Реализовать блоки аналогичные Inception и skip-connections для задачи классификации изображений или текстов
Глубокие рекуррентные сети
Участники расширят свои знания в области рекуррентных нейронных сетей и научатся применять общие концепции используемые в глубоких нейронных сетях для повышения эффектиности моделей
28 июля, 10:00 — 11:30
Metric-learning и обучение без примеров
Участники познакомятся с идеей выучивания метрик для решения задач ранжирования и поиска, а так же узнают как использовать данный подход в условиях недостаточной обучающей выборки
1 августа, 20:00 — 21:30
Домашние задания: 1
ДЗ
Сиамские сети. Реализовать модель DSSM для поиска цифр с google street view по запросам в виде рукописных цифр
Обзор: внимание, множества и сегментация
Участники научатся работать с множествами при обучении нейронных сетей, узнают об общей концепции внимания и смогут решать задачу сегментации.
4 августа, 10:00 — 11:30
Нейронные сети для работы с графами
Участники научатся использовать графовые типы данных для решения задач анализа на графах
8 августа, 20:00 — 21:30
Состязательные нейронные сети
В завершении курса мы разберем один из найболее мощных современных фреймворков обучения нейронных сетей и примеры его использования.
Введение в теорию информации
Участники познакомятся с базовыми элементами теории информации для успешного прохождения этого модуля и улучшения понимания современных архитектур нейронных сетей
11 августа, 10:00 — 11:30
Генеративные Состязательные Сети
Участники познакомятся с фреймворком состязательных сетей на примере задачи порождения примеров аналогичных тренировочному множеству.
15 августа, 20:00 — 21:30
Домашние задания: 1
ДЗ
GANs. Реализовать модель генерации рукописных цифр
Состязательный Автокодировщик и условная генерация
Участники познакомятся с новыми техниками применения состязательного фреймворка для повышения эффективности решения задач порождения данных
18 августа, 10:00 — 11:30
Домашние задания: 1
ДЗ
Условная генерация. Реализовать генерацию рукописных цифр заданного класса
Domain Adaptation
Участники познакомятся с мощным подходом решения одинаковых задач на разных датасетах, для повышения точности решения в случае недостаточности данных
22 августа, 20:00 — 21:30
Домашние задания: 1
ДЗ
Перенос классифкатора. Реализовать классификатор рукописных цифр и цифир из SVHN
Обзор: Fader Network и CAAE
Участники познакомятся с наиболее актуальными состязательными моделями и техниками
25 августа, 10:00 — 11:30
Проект
В рамках курса предусмотрена защита проекта. Проект представляет из себя генеративную модель для порождения текста заданного стиля или изображений заданной тематики.
Проект в ключает в себя следующие этапы:
Выбор тематики
Сбор и подготовка данных соответствующих тематике
Построение и обучение генеративной модели
Проект выполняется в течении двух недель после прохождения курса. Решение должно включать код модели и ее обучения, описание архитектуры модели, отчет об обучении модели и примеры генерации.
Минимальные требования для прохождения курса

Необходимо знание линейной алгебры, начала анализа, теории вероятностей и владение на уровне языком программирования Python на уровне Junior.

Преподаватели
Артур Кадурин
В настоящее время CEO Insilico Taiwan и Chief AI Officer Insilico Medicine

В Mail.ru был первым сотрудником в группе анализа данных департамента рекламных технологий. После того, как группа выросла в отдел, возглавил группу сегментирования аудитории. Руководил и участвовал в проектах связнных с пользовательской аналитикой в рекламе, соц.сетях, играх и т.д.

С 2016 года применяет методы глубокого обучения для научных исследований в области медицинской химии совместно с командой Insilico Medicine, и после успешного проекта занял должность директора по AI. В конце 2017г. в роли исполнительного директора возглавил дочернюю компанию Insilico Taiwan.

В 2008 году получил специальность математик, системный программист в Кубанском Государственном Университете на Факультете Компьютерных Наук и Прикладной Математики, с 2013 года занимается машинным обучением.

Научные публикации:
The cornucopia of meaningful leads: Applying deep adversarial autoencoders for new molecule development in oncology. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5355231/

druGAN: An Advanced Generative Adversarial Autoencoder Model for de Novo Generation of New Molecules with Desired Molecular Properties in Silico. https://www.ncbi.nlm.nih.gov/pubmed/28703000

3D Molecular Representations Based on the Wave Transform for Convolutional Neural Networks. https://www.ncbi.nlm.nih.gov/pubmed/29473756

Книга:
Глубокое обучение. https://www.piter.com/product/glubokoe-obuchenie
"Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее!" Больше, чем 150 лет назад Чарльз Доджсон сформулировал актуальную по сей день мысль. Для того, чтобы добиться успеха недостаточно просто делать свое дело, потому что мир меняется вместе с вами. Я уверен, что такие проекты как Otus способны придать участникам ускорение необходимое для того, чтобы "обогнать" меняющийся мир.
Ксения Стройкова
В области информационных технологий работает с 2012 года.
Опыт программирования 5 лет. Владеет языками Python (в том числе стек библиотек для научных вычислений), Java (применение на кластере Hadoop). Работает с технологиями MapReduce, Hive, Spark.
Программист в отделе анализа данных в департаменте рекламных технологий Mail.Ru. Занимается разработкой и внедрением процессов и моделей по обработке данных для использования в рекламе.
В настоящее время участвует в разработке хранилища данных для использования в рекламных сервисах, участвует в разработке системы для сегментирования аудиторий.

Преподает курс “Алгоритмы интеллектуальной обработки больших объемов данных” в Техносфере Mail.ru
Закончила Технопарк Mail.Ru
В 2014г. закончила МГТУ им. Н. Э. Баумана по специальности программное обеспечение ЭВМ и Информационные технологии.
Работодатели