Метод опорных векторов в машинном обучении

Метод опорных векторов (SVM, Support Vector Machines) — хорошо известный алгоритм классификации, создающий разделительную линию между различными категориями данных. Его вычисление можно представить как оптимизацию линии, при которой ближайшие точки в каждой из групп становятся удалены друг от друга в наибольшей степени.

Такой вектор часто визуализируется как линейный, но на деле это не всегда так. Он способен принимать и нелинейный вид, если тип ядра изменен от типа по умолчанию — линейного либо «гауссовского». Данный алгоритм не опишешь несколькими предложениями, поэтому лучше всего посмотреть следующее видео.

Мы же сконцентрируемся на реализации метода опорных векторов на языке программирования Python.

Начало

Реализация

Визуализация

Также, возможно, вам будут интересна реализация следующих алгоритмов машинного обучения: • линейная регрессия; • логистическая регрессия; • метод Decision Trees.

По материалам «The Hitchhiker’s Guide to Machine Learning in Python».