Граница решения - Decision boundary

В статистическая классификация проблема с двумя классами, граница решения или же поверхность решения это гиперповерхность это разделяет основную векторное пространство на два набора, по одному для каждого класса. Классификатор классифицирует все точки на одной стороне границы принятия решения как принадлежащие одному классу, а все точки на другой стороне как принадлежащие другому классу.

Граница решения - это область проблемного пространства, в которой выходная метка классификатор неоднозначно.[1]

Если поверхность принятия решения гиперплоскость, то задача классификации линейная, и классы линейно отделимый.

Границы принятия решений не всегда четкие. То есть переход от одного класса в пространстве функций к другому не является прерывистым, а постепенным. Этот эффект распространен в алгоритмах классификации на основе нечеткой логики, где принадлежность к тому или иному классу неоднозначна.

В нейронных сетях и моделях опорных векторов

В случае обратное распространение основан искусственные нейронные сети или же перцептроны, тип границы принятия решения, который может изучить сеть, определяется количеством скрытых слоев, которые имеет сеть. Если у него нет скрытых слоев, он может изучать только линейные задачи. Если у него есть один скрытый слой, он может изучить любой непрерывная функция на компактные подмножества из рп как показано Универсальная аппроксимационная теорема, таким образом, он может иметь произвольную границу решения.

Особенно, опорные векторные машины найти гиперплоскость который разделяет пространство функций на два класса с максимальная маржа. Если проблема изначально не является линейно разделимой, трюк с ядром можно использовать, чтобы превратить его в линейно разделяемый, увеличив количество измерений. Таким образом, общая гиперповерхность в пространстве малой размерности превращается в гиперплоскость в пространстве гораздо больших размеров.

Нейронные сети пытаются узнать границу решения, которая минимизирует эмпирическую ошибку, в то время как машины опорных векторов пытаются изучить границу решения, которая максимизирует эмпирический запас между границей решения и точками данных.

Рекомендации