Не смотрите сюда, если не готовы сэкономить 15%
Не смотрите сюда, если не готовы сэкономить 15%
Собрали спецкаталог курсов с повышенными скидками. Предложение сгорит 31 июля.
Собрали спецкаталог курсов с повышенными скидками. Предложение сгорит 31 июля.
Выбрать курс

Развертывание локальных моделей

28 августа

4 месяца

Онлайн

Для кого этот курс?

  • Для технических специалистов: инженеры, аналитики, тестировщики
  • Для продакт-менеджеров, прожект-менеджеров, предпринимателей
  • Для специалистов компаний с высокими требованиями к безопасности


Необходимые знания

  • Базовые навыки работы с кодом желательны, но не обязательны

Что даст вам этот курс?

 

Локальные большие языковые модели работают на вашей инфраструктуре и не передают данные за пределы периметра — это отличает демонстрационный чат-бот от рабочего инструмента для конфиденциальной документации, внутренних регламентов и персональных данных. Курс ведёт вас от первого запуска модели до развёрнутого приватного AI-ассистента, который выполняет поиск по вашим документам, действует через инструменты и обслуживается как полноценный сервис.

Программа выстроена вокруг результата каждого занятия — того, что вы умеете делать в конце. Отдельные блоки посвящены подготовке данных и оценке качества, выравниванию поведения и дистилляции — тому, что обычно остаётся за рамками вводных курсов, но определяет, дойдёт ли решение до промышленной эксплуатации.

Инструменты и код

Основная часть практики выполняется в готовых инструментах: десктоп-приложениях и веб-интерфейсах (LM Studio, Open WebUI, AnythingLLM), визуальных конструкторах агентов и RAG (Dify, Flowise, n8n), инструментах дообучения и оценки с графическим интерфейсом (LLaMA-Factory, H2O LLM Studio, Unsloth Studio, Langfuse).

Код применяется дозированно — там, где он действительно полезен (генерация синтетических данных, настройка функции вознаграждения в обучении с подкреплением), и предоставляется готовым шаблоном, который требуется настроить, а не писать с нуля.

Процесс обучения

Занятия в OTUS — это не заранее отснятый материал. Вебинары проходят в режиме реального времени, где преподаватели-практики рассказывают об актуальных кейсах и инструментах, которые нужны им в работе сейчас. Вы сможете активно участвовать голосом, практиковаться, задавать вопросы и получать обратную связь. Такой формат дает реальный результат. 

А если вы не смогли посетить занятие в реальном времени, то сможете посмотреть его в записи и задать вопрос преподавателю в закрытом чате.

Программа

 
Полный цикл до продакшна. Курс ведёт от первого запуска модели до развёрнутого, обслуживаемого сервиса.
 
 
Актуальность 2026. Современные открытые модели, методы и инструменты без устаревших практик.

Свой проект


Студент пишет выпускной проект на любую тему под контролем преподавателя

 

Онлайн вебинары 2 раза в неделю по 2 ак.часа

Портфолио


Проекты внутри домашних заданий + выпускной проект, который усилит ваше портфолио.
 

Партнеры

  • Разместите резюме в базе OTUS: так наши партнёры смогут пригласить вас на интервью
  • Участвуйте в карьерных мероприятиях: там мы разбираемся, как составить резюме
* Информация в этом разделе не предназначена для корпоративного обучения
Формат обучения

Интерактивные вебинары


2 онлайн-трансляции по 2 ак.часа в неделю. Доступ к записям и материалам остается навсегда

Обратная связь


Домашние задания с поддержкой и обратной связью наших преподавателей помогут освоить изучаемые навыки

Коммьюнити


Модерируемый чат для общения преподавателей и студентов. Можно задавать вопросы, делиться кейсами внедрения в работу

Программа

Запуск и оптимизация моделей

Выберем среду выполнения под профиль нагрузки, развернём OpenAI-совместимую конечную точку, будем управлять параметрами генерации и шаблонами чата

Тема 1: Введение в локальные большие языковые модели и их запуск

Тема 2: Архитектура вывода модели: токенизация, кэширование и параметры генерации

Тема 3: Оценка требований моделей к памяти и подбор оборудования

Тема 4: Квантизация моделей: форматы и компромисс качества и скорости

Поиск и работа со знаниями (RAG)

Тема 1: Векторные представления и семантический поиск

Тема 2: Конвейер RAG: разбиение, индексирование и формирование ответа

Тема 3: Повышение точности поиска: переранжирование и переформулирование запросов

Тема 4: Оценка качества поиска и контроль регрессий

Агенты, данные и оценка

Тема 1: Вызов инструментов и структурированный вывод

Тема 2: Агентные сценарии и маршрутизация запросов

Тема 3: Подготовка наборов данных для дообучения

Тема 4: Оценка моделей под прикладную задачу

Дообучение и выравнивание моделей

Тема 1: Дообучение моделей: критерии применимости и метод LoRA

Тема 2: Дообучение методом QLoRA на одном графическом процессоре

Тема 3: Дообучение под доменную роль и работу с инструментами

Тема 4: Масштабирование обучения и управление адаптерами

Тема 5: Выравнивание по предпочтениям: метод DPO

Тема 6: Обучение с подкреплением и модели рассуждения: метод GRPO

Дистилляция, мультимодальность и эксплуатация

Тема 1: Дистилляция знаний, синтетические данные и сжатие моделей

Тема 2: Мультимодальные модели и обработка документов

Тема 3: Промышленное обслуживание, развёртывание и API

Тема 4: Безопасность контура и наблюдаемость

Проектная работа

Тема 1: Консультация по проектной работе

Тема 2: Защита проектной работы

Также вы можете получить полную программу, чтобы убедиться, что обучение вам подходит

Проектная работа


На основе умений и знаний полученных в курсе студент выбирает какой проект будет реализовывать. С нашей стороны будет помощь и наставничество в реализации проекта. Проект станет хорошим пополнением вашего портфолио.

Ближайшие мероприятия

Открытый вебинар — это настоящее занятие в режиме онлайн с преподавателем курса, которое позволяет посмотреть, как проходит процесс обучения. В ходе занятия слушатели имеют возможность задать вопросы и получить знания по реальным практическим кейсам.

Сделайте модель своей: дообучение LLM методом QLoRA без кода
Дмитрий Золотов
Базовая модель не знает вашего домена. На живом демо дообучим локальную LLM методом QLoRA на одной видеокарте без единой строчки кода и сравним поведение до и после.

Что будет разобрано:
• Когда дообучать модель, а когда хватит промпта или RAG
• Как устроен QLoRA: квантизация, адаптер, гиперпараметры
• Запуск дообучения в Unsloth Studio / H2O LLM Studio без кода

Что вы сможете делать после:
• Готовить небольшой датасет в правильном формате
• Запускать QLoRA-дообучение на одной видеокарте
• Сравнивать модель до и после и замечать переобучение

Кому будет интересно:
• Разработчикам и инженерам, внедряющим LLM
• AI/ML-инженерам и аналитикам данных
• Тем, у кого модель не тянет домен
...
5 августа в 20:00
Открытый вебинар
AI-ассистент на ваших документах: почему он врёт и что с этим делать
Дмитрий Золотов
Внедрили AI-ассистента по документам, а он уверенно выдаёт неправду? Без кода и формул разберём, почему так происходит, какие есть рычаги качества и как грамотно ставить задачу команде.

Что будет разобрано:
• Почему AI уверенно выдумывает ответы (простыми словами)
• Из чего складывается качество ответа по документам
• Какие рычаги поднимают точность и сколько это стоит

Что вы сможете делать после:
• Формулировать требования к AI-ассистенту для команды
• Оценивать, можно ли доверять ответам бота
• Понимать, где проходит граница возможного

Кому будет интересно:
• Product-менеджерам и владельцам продукта
• Проджектам и аналитикам
• Руководителям, внедряющим AI
...
18 августа в 19:00
Открытый вебинар

Этот курс может оплатить ваш работодатель

Обучайтесь за счёт работодателя или разделите оплату 50/50
  • Подробно расскажем об интересующем вас курсе
  • Объясним, как договориться с работодателем
  • Сообщим стоимость обучения и варианты оплаты
  • Ответим на вопросы
  • Предоставим шаблон договора и счёт на оплату

Подтверждение знаний и навыков

OTUS осуществляет лицензированную образовательную деятельность.

Вы получите сертификат о прохождении обучения, а также можете получить удостоверение о повышении квалификации.

После обучения:

  • Удостоверение о повышении квалификации: если вы успешно защитили выпускной проект и готовы предоставить копию документа о высшем или среднем профессиональном образовании

  • Доступ к учебным материалам курса

  • Ваш личный проект, который поможет проходить собеседования

Частые вопросы

Что, если в середине курса я не смогу продолжать обучение?
У вас есть право одного бесплатного трансфера в другую группу
Обязательно ли защищать выпускной проект?
Для получения сертификата OTUS необходимо сдать проект. Кроме того, проект необязательно защищать перед аудиторией, а можно сдать в чате с преподавателем.
Я могу вернуть деньги?
Да, вы можете сделать возврат средств пропорционально оставшимся месяцам обучения.