Шпаргалка по разновидностям нейронных сетей. Часть 2 | OTUS
🔥 Начинаем BLACK FRIDAY!
Максимальная скидка -25% на всё. Успейте начать обучение по самой выгодной цене.
Выбрать курс

Курсы

Программирование
iOS Developer. Basic
-25%
Python Developer. Professional
-25%
Разработчик на Spring Framework
-25%
Golang Developer. Professional
-25%
Python Developer. Basic
-25%
iOS Developer. Professional
-25%
Highload Architect
-25%
JavaScript Developer. Basic
-25%
Kotlin Backend Developer
-25%
JavaScript Developer. Professional
-25%
Android Developer. Basic
-25%
Unity Game Developer. Basic
-25%
Разработчик C#
-25%
Программист С Web-разработчик на Python Алгоритмы и структуры данных Framework Laravel PostgreSQL Reverse-Engineering. Professional CI/CD Vue.js разработчик VOIP инженер Программист 1С Flutter Mobile Developer Супер - интенсив по Kubernetes Symfony Framework Advanced Fullstack JavaScript developer Супер-интенсив "Azure для разработчиков"
Инфраструктура
Мониторинг и логирование: Zabbix, Prometheus, ELK
-25%
DevOps практики и инструменты
-25%
Архитектор сетей
-25%
Инфраструктурная платформа на основе Kubernetes
-25%
Супер-интенсив «IaC Ansible»
-16%
Разработчик программных роботов (RPA) на базе UiPath и PIX
-25%
Administrator Linux. Professional MS SQL Server Developer Безопасность Linux PostgreSQL Reverse-Engineering. Professional CI/CD VOIP инженер Супер-практикум по работе с протоколом BGP Супер - интенсив по паттернам проектирования Супер - интенсив по Kubernetes Administrator Linux.Basic Супер-интенсив «ELK»
Специализации Курсы в разработке Подготовительные курсы
+7 499 938-92-02

Шпаргалка по разновидностям нейронных сетей. Часть 2

DLE_Deep_2.4-5020-07b3db.png

Продолжаем разговор о разновидностях нейронных сетей. В предыдущей статье мы говорили об элементарных архитектурах нейросетей, этот же материал будет посвящён более продвинутым конфигурациям.

Глубинные свёрточные обратные графические сети

1_300x165_1-20219-aff995.png

Речь идёт о DCIGN (deep convolutional inverse graphics networks, DCIGN). Эти нейросети названы так не совсем корректно, ведь они по большему счёту являются вариационными автокодировщиками, причём кодирующая и декодирующая части представлены свёрточной и развёртывающей нейросетью соответственно.

Нейронные сети этой разновидности моделируют свойства в виде вероятностей, в результате чего вы можете научить их создавать картинку с собакой и котом даже в том случае, если нейросеть видела лишь фото с изображениями только одного из животных. В то же самое время, возможно также и удаление одного из 2-х объектов. Сети DCIGN обычно обучают с помощью метода обратного распространения ошибки.

Генеративные состязательные сети

2_300x123_2-20219-e47435.png

GAN (generative adversarial networks) представляют собой нейронные сети, похожие на близнецов. Они состоят из любых двух сетей (чаще всего, это FF и CNN), причём одна из сетей генерирует контент, а вторая — оценивает. В результате возникает состязания между сетью-генератором и сетью-дискриминатором, то есть перед нами возникает ситуация, когда один учится обманывать, а второй пытается раскрыть обман (напоминает концепцию «банкир-фальшивомонетчик»). Обучать эти нейросети довольно сложно, ведь надо не только каждую из них обучить, но и правильно настроить баланс.

Рекуррентные нейронные сети

3_300x233_2-20219-765216.png

RNN (recurrent neural networks, RNN) представляют собой нейронные сети типа FFNN, но имеют одну особенность: нейроны получают данные не только от предыдущего слоя, но и, собственно говоря, от самих же себя предыдущего прохода. Значит это следующее: порядок, в котором подаются данные и обучается нейросеть, становится важным.

У RNN существует проблема исчезающего (либо взрывного) градиента — речь идёт о быстрой потере информации в течение времени. Да, влияет это только на веса, а не на состояния нейронов, но ведь как раз в них и накапливается информация.

Как правило, нейросети этой разновидности применяют для автоматического дополнения информации.

Сети с долгой краткосрочной памятью

4_300x238_2-20219-6b7939.png

LSTM (long short term memory) пытаются решить упомянутую выше проблему потери информации, применяя для этого фильтры и заданную явно клетку памяти. У каждого нейрона имеется клетка памяти и 3 фильтра: выходной, входной и забывающий. Цель фильтров — защита информации.

Нейросети этого типа можно научить создавать сложные структуры, к примеру, сочинять музыку либо писать, как Шекспир. Но следует учитывать, что LSTM потребляют немало ресурсов.

Управляемые рекуррентные нейроны

5_300x228_1-20219-f270f5.png

GRU (gated recurrent units) представляют собой небольшую вариацию предыдущей сети. У этих нейросетей на один фильтр меньше, а сами связи реализованы несколько иначе. Есть фильтр обновления и фильтр сброса. Первый определяет, какой объём данных останется от прошлого состояния и какой объем будет взят из предыдущего слоя. Фильтр сброса функционирует примерно по аналогии с забывающим фильтром в LSTM.

Нейронные машины Тьюринга

6_300x216_1-20219-f2164d.png

NTM (neural Turing machines) — абстрактная модель LSTM и попытка показать, что на деле происходит внутри нейросети. Здесь ячейка памяти в нейрон не помещена, а находится отдельно, чтобы объединить мощь нейросети и эффективность обычного хранилища данных. Собственно говоря, именно потому такие нейросети и называют машинами Тьюринга, при этом они являются тьюринг-полными в силу существующей у них способности читать и записывать информацию, меняя состояние в зависимости от прочитанного.

Двунаправленные RNN, LSTM и GRU

Картинки нет, т. к. эти нейросети почти не отличаются от однонаправленных вариантов. Но есть разница: они используют как данные из «прошлого», так и данные из «будущего». К примеру, обычную LSTM-сеть учат угадывать слово «рыба», подавая при этом буквы по одной, а 2-направленную — подавая ещё и последующую букву из последовательности. Таким образом, эти нейросети могут, к примеру, расширять изображение по краям, либо заполнять дыры внутри.

Глубинные остаточные сети

8_300x76_1-20219-766be4.png

DRN (deep residual networks) — очень глубокие сети FFNN-типа, имеющие дополнительные связи между слоями, отделёнными друг от друга. Эти сети можно обучать на шаблонах, имеющих глубину до 150 слоёв(!). Тем не менее считается, что эти нейросети мало отличаются от рекуррентных, поэтому их часто сравнивают с LSTM-сетями.

Нейронная эхо-сеть

9_300x240_1-20219-fd0801.png

ESN (echo state networks) — очередной вид рекуррентных сетей. Особенность — отсутствие сформированных слоёв, то есть связи между нейронами случайны. В результате этого, метод обратного распространения ошибки здесь не срабатывает. Вместо него надо подавать входные данные и передавать их по сети, обновляя нейроны и наблюдая за выходными данными.

Метод экстремального обучения

10_300x240_1-20219-d16265.png

ELM (extreme learning machines) — по большему счёту, это нейросеть типа FFNN, но имеющая случайные связи. Есть схожесть с LSM и ESN, но использование осуществляется, как в случае с FFNN. Так происходит не только из-за того, что они нерекуррентны, но и по причине, что их можно просто обучать методом обратного распространения ошибки.

Метод неустойчивых состояний

11_300x242_1-20219-8dd859.png

LSM (liquid state machines) — напоминает эхо-сеть, но присутствует важное отличие: сигмоидная активация здесь заменена пороговой функцией, при этом каждый нейрон — накопительная ячейка памяти. В итоге, когда нейрон обновляется, его значение не становится равным сумме соседей, а прибавляется само к себе и при достижении порога сообщается другим нейронам.

Метод опорных векторов

12_300x228_1-20219-4481ba.png

SVM (support vector machines) — речь идёт о нахождении оптимальных решений задач оптимизации. Классическая версия SVM может категоризировать линейно разделяемые данные: к примеру, различать фотографии с котом Гарфилдом и котом Томом. Во время обучения нейросеть как бы размещает всю информацию на 2D-графике, пытаясь разделить данные прямой линией таким образом, дабы с каждой стороны находились данные лишь одного класса, а расстояние от данных до линии было наибольшим. Применяя трюк с ядром, мы можем классифицировать данные размерности n. Кстати, этот метод рассматривается как нейросеть не всегда.

Нейронные сети Кохонена

13_300x229_1-20219-9401a9.png

KN (Kohonen networks, KN) также известны как самоорганизующиеся карты (self organising (feature) maps, SOM, SOFM). Эти нейросети применяют соревновательное обучение для классификации данных без учителя. Нейронной сети подаются входные данные, после чего нейросеть определяет, какие из нейронов в наибольшей степени с ними совпадают. Далее эти нейроны меняются для ещё большей точности совпадения, двигая в процессе за собой соседей. В некоторых случаях карты Кохонена также не считают нейросетями.

Вот и всё! Надеемся, теперь вы будете разбираться в разновидностях нейронных сетей более уверенно.

Источник

Не пропустите новые полезные статьи!

Спасибо за подписку!

Мы отправили вам письмо для подтверждения вашего email.
С уважением, OTUS!

Автор
0 комментариев
Для комментирования необходимо авторизоваться
🎁 Максимальная скидка!
Черная пятница уже в OTUS! Скидка -25% на всё!