Отличие метрики от функции потерь | OTUS

Отличие метрики от функции потерь

Во время собеседования у начинающего ML-специалиста могут спросить, чем именно отличается метрика от функции потерь? Давайте разберемся.

1-1801-a80b6b.png

Метрика — это то, что мы в действительности хотим минимизировать либо максимизировать. Понятно, что метрики бывают совершенно разные. Существуют продуктовые метрики (к примеру, доход) -- используя Machine Learning, их можно оптимизировать косвенно. Но вообще, как правило, в ML-курсах зачастую разговор идет про обычные офлайн-метрики, посредством которых мы понимаем, насколько хорошо решена задача.

Идем далее. При измерении качества решения задачи бинарной классификации мы можем применять такие метрики, как accuracy (доля правильно классифицированных объектов), точность, полнота и т. п. Однако вышеперечисленные метрики имеют один весомый недостаток: они не являются дифференцируемыми, то есть невозможно оптимизировать их напрямую. Нам же хочется свести нашу задачу к оптимизации какого-нибудь хорошего функционала — таким образом и возникает функция потерь.

kak_my_uchim_ii_pomogat_nahodit_sotrudnikov_5_1-1801-b541be.png

Иногда метрика и функция потерь совпадают. К примеру, в обоих качествах мы можем задействовать в задаче регрессии среднеквадратичную ошибку (MSE). Однако для задачи классификации, как мы уже рассмотрели выше, это не так.

По материалам tproger.ru.

Не пропустите новые полезные статьи!

Спасибо за подписку!

Мы отправили вам письмо для подтверждения вашего email.
С уважением, OTUS!

Автор
0 комментариев
Для комментирования необходимо авторизоваться