LLM Driven Development
26 июня
Professional
4 месяца
Онлайн
Вт/Чт 20:00 Мск
Для кого этот курс?
- Python-разработчики, желающие выйти за рамки классического программирования и освоить прикладное AI
- DevOps-инженеры, которым важно понять, как разворачивать и поддерживать крупные AI-системы
- Data-инженеры, аналитики данных и специалисты по Data Science, стремящиеся глубже интегрировать языковые модели в пайплайны и сервисы
Необходимые знания
Желательно базовое знание Python. Многие темы курса на курсе не требуют знания языков программирования, но отдельные примеры работы будут именно на Python
Что даст вам этот курс
На курсе вы
- Изучите фундаментальные принципы AI-архитектуры и трансформеров
- Освоите практики LLMOps: от развёртывания и автоматизации до мониторинга и обновления крупных моделей
- Разберётесь в токенизации, контекстных окнах и научитесь эффективно управлять памятью для больших LLM
- Освоите фреймворки для интеграции LLM (LangChain, LlamaIndex, vllm и другие) и научитесь работать с мультиагентными системами
- Научитесь применять retrieval-augmented generation (RAG) вместе с векторными базами данных и внедрять AI-функциональность в классические backend-проекты
- Поймёте, как проводить fine-tuning и оптимизацию LLM, включая вызов внешних функций
- Узнаете о когнитивных архитектурах, принципах мультимодальных моделей и методах тестирования AI-решений
Почему стоит освоить?
Процесс обучения
Обучение проходит онлайн: вебинары, общение с преподавателями и вашей группой в Telegram, сдача домашних работ и получение обратной связи от преподавателя.
Вебинары проводятся 2 раза в неделю по 2 ак. часа и сохраняются в записи в личном кабинете. Вы можете посмотреть их в любое удобное для вас время.
В ходе обучения вы будете выполнять домашние задания. Каждое из них посвящено одному из компонентов вашего выпускного проекта.
После выполнения всех домашних заданий вы получите готовый выпускной проект.
Оптимальная нагрузка
Возможность совмещать учебу с работой
Портфолио
Индивидуальная разработка итоговой проектной работы
Перспективы
Получите знания, которые помогут повысить вашу востребованность и доход
Партнеры
Многие студенты еще во время прохождения первой части программы находят или меняют работу, а к концу обучения могут претендовать на повышение в должности.
- Получите помощь с оформлением резюме, портфолио и сопроводительного письма
- Разместите свое резюме в базе OTUS и сможете получать приглашения на собеседования от партнеров
Формат обучения
Интерактивные вебинары
2 занятия по 2 ак.часа в неделю. Доступ к записям и материалам остается навсегда
Обратная связь
Домашние задания с поддержкой и обратной связью наших преподавателей помогут освоить изучаемые технологии
Активное комьюнити
Чат в Telegram для общения преподавателей и студентов
Программа
Архитектура трансформеров
В этом модуле вы научитесь анализировать архитектурные ограничения RNN и преимущества self-attention, объяснять механику трансформеров и интерпретировать работу attention-слоёв.
Тема 1: Базовые принципы трансформеров (от RNN к Self-Attention)
Тема 2: Token Embedding, позиционные вектора и QKV
Тема 3: Визуализация Attention и эволюция (BERT, GPT, T5) // ДЗ
Введение в AI Engineering
В этом модуле вы освоите выбор и адаптацию русскоязычных LLM под прикладные задачи. А также рассмотрите LLM-пайплайны и применение инженерных практик в работе с моделями.
Тема 1: Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek)
Тема 2: Подходы к локализации (SberGPT, YandexLLM, ruGPT-3)
Тема 3: Работа с данными в Python и подготовка данных для LLM // ДЗ
Основы LLMOps
В этом модуле вы научитесь настраивать мониторинг и отслеживание работы LLM, использовать соответствующие инструменты и интегрировать модели в CI/CD-процессы для обеспечения надёжной и стабильной эксплуатации.
Тема 1: Принципы LLMOps, автоматизация развертывания
Тема 2: Оптимизация и поддержка LLM
Тема 3: CI/CD для LLM и инструменты (Triton, MLflow, vLLM) // ДЗ
Оценка, токенизация и контекст
В этом модуле вы овладеете методами оценки качества генерации, применением метрик и управлением длиной контекста и token streaming.
Тема 1: Специализированные бенчмарки и метрики (GLUE, SQuAD и др.) // ДЗ
Тема 2: Токенизация, контекстные окна, test time scaling
Интеграция и практика
В этом модуле вы научитесь конструировать и защищать промпты, реализовывать Retrieval-Augmented Generation и интегрировать LLM через API и middleware.
Тема 1: Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack) // ДЗ
Тема 2: Мониторинг моделей с LangChain Observability, LangSmith, Langfuse
Тема 3: Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse) // ДЗ
Тема 4: Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)
Разработка и оптимизация LLM
В этом модуле вы изучите, как дообучать и оптимизировать LLM, расширяя их функциональность через Fine-tuning, вызов внешних функций, локальный запуск и извлечение информации из текста.
Тема 1: Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM // ДЗ
Тема 2: Локальное использование LLM (CPU/GPU), оптимизация
Тема 3: Извлечение данных из текста (NER, IE), разработка приложений // ДЗ
Тема 4: Автоматизация тестирования LLM, CI/CD жизненного цикла // ДЗ
Когнитивные архитектуры и RAG
В этом модуле вы научитесь строить когнитивные системы на базе Retrieval-Augmented Generation (RAG), проектировать архитектуры AI-приложений с учётом профилирования производительности и обеспечением надёжности, а также оптимизировать отклик и мониторинг.
Тема 1: Основы RAG, онтологические графы, LangGraph
Тема 2: Проектирование когнитивных архитектур (QA, чат-боты, документооборот)
Тема 3: Архитектуры AI-приложений, профилирование inference
Тема 4: Тестирование AI-приложений (мониторинг, оптимизация задержек)
Продвинутые архитектуры и паттерны
В этом модуле вы изучите современные подходы к построению эффективных и масштабируемых LLM-систем: от сжатия и оптимизации моделей до внедрения мультимодальности и реализации семантического поиска.
Тема 1: Сжатие моделей: квантование (GGUF, AWQ), дистилляция, pruning
Тема 2: Семантический поиск и мультимодальность (текст + изображение/аудио) // ДЗ
Тема 3: Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)
Проектная работа
Заключительный месяц курса посвящен проектной работе. Проект – это самая интересная часть обучения. Вы будете разрабатывать его на основе полученных на курсе навыков и компетенций. В процессе работы над проектом можно получить консультацию преподавателей.
Тема 1: Выбор темы и организация проектной работы // Проект
Тема 2: Консультация по проектам и домашним заданиям
Тема 3: Защита проектных работ
Тема 4: Подведение итогов курса
Также вы можете получить полную программу, чтобы убедиться, что обучение вам подходит
Выпускной проект
Каждый семестр завершается финальным проектом, который предстоит защитить перед преподавателями и командой. Вам будет, что обсудить на собеседовании!
В качестве проекта вам будет предложено разработать свой сервис с интеграцией AI и LLM. Например, разработать интеллектуального чат-бота для поддержки клиентов или систему семантического поиска для корпоративных данных.
Вы можете выбрать одну из предложенных преподавателем тем или реализовать свою идею.
Преподаватели
Эксперты-практики делятся опытом, разбирают кейсы студентов и дают развернутый фидбэк на домашние задания
Ближайшие мероприятия
Открытый вебинар — это настоящее занятие в режиме онлайн с преподавателем курса, которое позволяет посмотреть, как проходит процесс обучения. В ходе занятия слушатели имеют возможность задать вопросы и получить знания по реальным практическим кейсам.
На уроке вы познакомитесь с принципами наблюдаемости (observability) в системах, использующих большие языковые модели. Мы разберёмся, как отслеживать поведение LLM-агентов, выявлять ошибки генерации и управлять качеством ответов.
Особое внимание уделим Langfuse — инструменту, который позволяет собирать и анализировать execution traces: от запроса пользователя до ответа модели, включая все промежуточные шаги (retrieval, вызовы функций, постобработка).
Вы узнаете, как интегрировать Langfuse в свой проект, визуализировать работу LLM, собирать метрики и улучшать пайплайны генерации.
Кому подходит этот урок:
- Разработчикам и ML-инженерам, внедряющим LLM в продукты и нуждающимся в контроле и прозрачности
- Тем, кто строит сложные пайплайны с LangChain, LlamaIndex или собственными агентами
- Всем, кто хочет понимать, что именно делает LLM и почему в реальном продакшене
Результаты урока:
Вы поймёте, как устроены execution traces, как использовать их для отладки и анализа LLM-приложений, и почему observability — это не опция, а обязательный компонент зрелой AI-системы.
Прошедшие
мероприятия
Корпоративное обучение для ваших сотрудников
- Курсы OTUS верифицированы крупными игроками ИТ-рынка и предлагают инструменты и практики, актуальные на данный момент
- Студенты работают в группах, могут получить консультации не только преподавателей, но и профессионального сообщества
- OTUS проверяет знания студентов перед стартом обучения и после его завершения
- Простой и удобный личный кабинет компании, в котором можно видеть статистику по обучению сотрудников
- Сертификат нашего выпускника за 5 лет стал гарантом качества знаний в обществе
- OTUS создал в IT более 120 курсов по 7 направлениям, линейка которых расширяется по 40-50 курсов в год
Подтверждение знаний и навыков
OTUS осуществляет лицензированную образовательную деятельность. В конце обучения вы получите сертификат OTUS о прохождении курса и удостоверение о повышении квалификации.
После обучения вы:
- Получите материалы по пройденным занятиям (видеозаписи курса и дoполнительные материалы)
- Создадите свой проект, который поможет при прохождении собеседований
- Повысите свою ценность и конкурентоспособность как IT-специалист
- Получите сертификат об окончании курса
LLM Driven Development
Полная стоимость
Стоимость указана для оплаты физическими лицами
вычета до 13% стоимости обучения. Пройдите тестирование и менеджер вас проконсультирует
+7 499 325-85-52 бесплатно