1. Метод опорных векторов (SVM) ищет разделяющую
гиперплоскость с большим геометрическим зазором между классами. Максимизация
зазора является основным принципом построения разделяющей границы. Модель
стремится разделить объекты разных классов с учётом их расположения в
пространстве признаков.
2. Опорные векторы — это наблюдения, расположенные на
границе геометрического зазора или нарушающие его. Они существенно влияют на
положение разделяющей гиперплоскости. Поэтому именно эти наблюдения играют
важную роль в формировании решения SVM.
3. Soft-margin SVM допускает нарушения
геометрического зазора. При оптимизации необходимо соблюдать баланс между
шириной зазора и штрафом за нарушения. Этот баланс регулируется параметром C.
Изменение C влияет на строгость штрафа и поведение модели.
4. Ядерные функции позволяют строить нелинейные
разделяющие границы без явного преобразования объектов в новые координаты.
Линейное ядро формирует линейную границу и хорошо подходит, например, для
высокоразмерных разреженных текстовых признаков. RBF-ядро позволяет получать
нелинейные границы, но чувствительно к параметру gamma. Поэтому его необходимо
осторожно настраивать и использовать вместе с масштабированием признаков.
5. Масштабирование признаков является важной частью
применения SVM, особенно при использовании RBF-ядра. Гиперпараметры модели,
включая C и gamma, выбираются на валидационных данных. Итоговое качество
проверяется на независимых наблюдениях. При интерпретации результатов
необходимо учитывать размер выборки, шум измерений, возможный сдвиг
распределения и сравнение с простым базовым решением.