对支持向量机中线性可分集分类过程的理解

根据初中数学知识,我们在二维笛卡尔坐标系中画出一条直线l

y=a\cdot x+c

这条直线l将平面切割成两部分,若将两部分的点分别代入直线方程l,可以得到两个不等式

\begin{matrix} y< a\cdot x+c \\ y> a\cdot x+c \end{matrix}

若将上面的不等式组进行一些简单的变换,将y替换成x2,x替换成x1,系数以及常数分别用w1,w2,b代替,则可以得到以下方新的方程组:

\begin{matrix} w_{1}\cdot x_{1}+w_{2}\cdot x_{2}+b> 0 \\ w_{1}\cdot x_{1}+w_{2}\cdot x_{2}+b< 0\end{matrix}

我们约定:

w_{1}\cdot x_{1}+w_{2}\cdot x_{2}+b\rightleftharpoons y_{i}

y_{i}\in \left \{ -1,1 \right \}

W=\left ( w_{1},w_{2} \right )

X=\left ( \begin{matrix} x_{1}\\ x_{2} \end{matrix} \right )

并约定:

W\cdot X> 0时候,y_{i}=1

W\cdot X< 0时候,y_{i}=-1

这样我们就通过一条直线将平面中的所有点(除直线上的之外)分成了两类,这样就完成了一个线性分类。

以上虽然实现了一种分类方法,但是实际问题中,通常我们事先不知道这条直线在哪里,这条直线通常是需要我们自己去设定的,那么如何设定这条直线呢?面对这个问题,我想我们最自然的应该首先想到的就是选两个不同类别的点,在它们中间画一条直线,那么这条直线至少就可以将这两点分成了两类。根据这个想法,我们求解这条直线方程的过程如下:

 

 

 

 

 

 

你可能感兴趣的:(SVM)