Проект выпускника курса «Machine Learning»
Не секрет, что PyTorch содержит множество различных классов для оптимизаторов, хотя некоторые из них очень похожи. Кирилл Романов, выпускник курса Machine Learning, создал проект «Универсальный оптимизатор для PyTorch».
С помощью такого оптимизатора появляется возможность конструировать большинство существующих оптимизаторов, включая: — SGD; — Rmsprop; — Adadelta; — Adam-подобные оптимизаторы.
Также можно комбинировать входные параметры и создавать нестандартный оптимизатор. В рамках реализации проекта выпускник рассмотрел принципы работы основных оптимизаторов спуска градиента, подготовил алгоритмы настройки пользовательского и стандартного оптимизатора, выполнил тестирование и показал лучшую эффективность нового алгоритма оптимизации по сравнению со стандартными.
Алгоритм настройки пользовательского оптимизатора
Готовый проект был защищён студентом и рекомендован преподавателем к показу потенциальным работодателям в качестве образца, подтверждающего профессиональные навыки.
Для ознакомления с подробностями проекта перейдите по ссылке на соответствующий репозиторий.
Ждём ваше мнение о проектной работе в комментариях!