NLP. Advanced
В апреле 2025
Advanced
4 месяца
Онлайн
Для кого этот курс
- Практикующие DS специалисты, которые хотят получить углубленные знания по трансформерным моделям и научиться работать с LLM на высоком уровне;
- Выпускники курсов Machine Learning. Professional, Machine Learning. Advanced, NLP / Natural Language Processing, которые хотят освоить самые передовые методы работы с LLM;
- ИТ-специалисты, которым на работе приходиться работать с текстовыми данными и внедрять методы работы с трансформерными моделями и LLM.
Необходимые знания
- Базовая высшая математика: умение работать с матрицами и векторами, базовое знание математической статистики, теории вероятности и мат. анализа;
- Методы классического ML, умение работать с классическими ML моделями;
- Основы Deep Learning, базовое представление о pytorch;
- Программирование на Python для машинного обучения.
Что даст вам этот курс
Вы научитесь
- Работать с LLM (большими языковыми моделями) на высоком уровне;
- Самым передовым методам работы с LLM и трансформерными моделями;
- Применять самые продвинутые архитектуры и адаптировать их под широкий круг бизнес-задач;
- Дообучать языковые модели под свои задачи;
- Поднимать модели в телеграм-боте.
Процесс обучения
Обучение проходит онлайн: вебинары, общение с преподавателями и вашей группой в Telegram, сдача домашних работ и получение обратной связи от преподавателя.
Вебинары проводятся 2 раза в неделю по 2 ак. часа и сохраняются в записи в личном кабинете. Вы можете посмотреть их в любое удобное для вас время.
В ходе обучения вы будете выполнять домашние задания. Каждое из них посвящено одному из компонентов вашего выпускного проекта.
После выполнения всех домашних заданий вы получите готовый выпускной проект.
Оптимальная нагрузка
Возможность совмещать учебу с работой
Портфолио
Индивидуальная разработка итоговой проектной работы
Перспективы
Получите знания, которые помогут повысить вашу востребованность и доход
Партнеры
Многие студенты еще во время прохождения первой части программы находят или меняют работу, а к концу обучения могут претендовать на повышение в должности.
- Получите помощь с оформлением резюме, портфолио и сопроводительного письма
- Разместите свое резюме в базе OTUS и сможете получать приглашения на собеседования от партнеров
Формат обучения
Интерактивные вебинары
2 занятия по 2 ак.часа в неделю. Доступ к записям и материалам остается навсегда
Обратная связь
Домашние задания с поддержкой и обратной связью наших преподавателей помогут освоить изучаемые технологии
Активное комьюнити
Чат в Telegram для общения преподавателей и студентов
Программа
Базовые понятия трансформерных моделей
Тема 1: Архитектура трансформер и задача машинного перевода
Тема 2: BERT и другие трансформерные энкодеры
Тема 3: GPT и другие декодерные модели для генерации текстов
Тема 4: Seq2seq модели. Дообучение трансформеров на практическом примере
Тема 5: Методы за ChatGPT + Q&A сессия
Тема 6: Q&A сессия и дискуссионный клуб
Новая эра LLM: базовые методы
Тема 1: Современные LLM и оптимизация архитектуры
Тема 2: Практическое занятие: теория промптинга LLM
Тема 3: LoRA и доменная адаптация (Domain adaptation)
Тема 4: Мультиязычные трансформеры
Тема 5: Работа с длинным контекстом
Продвинутые методы работы с LLM
Тема 1: Sentence-transformers
Тема 2: Эффективные трансформеры
Тема 3: Практическое занятие: фреймворки для эффективной работы с LLM
Тема 4: LangChain
Тема 5: RAG - генерация на основе базы знаний
Доп. главы работы с LLM
Тема 1: Оценка LLM
Тема 2: Распределенное обучение
Тема 3: Практическое занятие: интеграция LLM в тг-бота
Тема 4: Q&A сессия и дискуссионный клуб
Трансформеры для других модальностей
Тема 1: Мультимодальные и Vision трансформеры
Тема 2: Практическое занятие по работе с мультимодальными моделями
Тема 3: Введение в AI агентов
Тема 4: Трансформеры для временных рядов
Тема 5: Трансформеры для табличных данных
Тема 6: Q&A сессия и дискуссионный клуб
Проектная работа
Тема 1: Выбор темы и организация проектной работы
Тема 2: Консультация по проектам и домашним заданиям
Тема 3: Защита проектных работ
Тема 4: Подведение итогов курса
Также вы можете получить полную программу, чтобы убедиться, что обучение вам подходит
Выпускной проект
В качестве проекта студенты смогут выбрать такую тему проекта, в рамках которой они смогут применить понравившиеся методы из курса и построить систему для применения LLM под конкретную задачу. Например, создать образовательного телеграм-бота, модель по генерации сказок и т. п. В случае сложностей с выбором темы, эксперт курса поможет подобрать проект, который идеально подходит интересам студента.
Преподаватель
Мария Тихонова
SberDevices, ВШЭ
PhD Computer Science, Senior Data Scientist
Занимается обучением больших языковых моделей, а также их оценкой. Участвовала в создании мультиязычной нейросети mGPT на 61 язык, первого русскоязычного бенчмарк для русского языка, а также в проекте GigaChat. Преподает в Высшей Школе Экономики дисциплины по анализу данных, машинному обучению и data science. Образование: Механико-математический факультет Московского государственного университета (МГУ) Закончила аспирантуру факультета компьютерных наук Высшей Школы Экономики (НИУ ВШЭ) Otus Certified Educator
Преподает на курсах
- Профессия Data Scientist
- Machine Learning. Basic
- Machine Learning
- Machine Learning. Advanced
- Machine Learning. Professional
- NLP / Natural Language Processing
- NLP. Advanced
Эксперты-практики делятся опытом, разбирают кейсы студентов и дают развернутый фидбэк на домашние задания
Корпоративное обучение для ваших сотрудников
- Курсы OTUS верифицированы крупными игроками ИТ-рынка и предлагают инструменты и практики, актуальные на данный момент
- Студенты работают в группах, могут получить консультации не только преподавателей, но и профессионального сообщества
- OTUS проверяет знания студентов перед стартом обучения и после его завершения
- Простой и удобный личный кабинет компании, в котором можно видеть статистику по обучению сотрудников
- Сертификат нашего выпускника за 5 лет стал гарантом качества знаний в обществе
- OTUS создал в IT более 120 курсов по 7 направлениям, линейка которых расширяется по 40-50 курсов в год
Сертификат о прохождении курса
OTUS осуществляет лицензированную образовательную деятельность. В конце обучения вы получите сертификат OTUS о прохождении курса и удостоверение о повышении квалификации.
После обучения вы:
- Получите материалы по пройденным занятиям (видеозаписи курса и дoполнительные материалы)
- Создадите свой проект, который поможет при прохождении собеседований
- Повысите свою ценность и конкурентоспособность как IT-специалист
- Получите сертификат об окончании курса
NLP. Advanced
Полная стоимость
Стоимость указана для оплаты физическими лицами
вычета до 13% стоимости обучения. Пройдите тестирование и менеджер вас проконсультирует
+7 499 938-92-02 бесплатно