（基础）支持向量机SVM——超平面

本文转载于：
http://www.mamicode.com/info-detail-1589924.html
http://blog.csdn.net/m0_37658225/article/details/70048959

---

我们最常见的平面概念是在三维空间中定义的（这里用它做引申）:

Ax+By+Cz+D=0

它由两个性质上定义:
1）方程是线性的: 是空间点的各分量的线性组合
2）方程数量为1
　　
　　
　　若抛却维度等于3的限制，就得到了超平面的定义。 其中方程数量为1，它的本质其实是自由度比空间维度D小1。自由度的概念可以简单的理解为至少要给定多少个分量的值才能确定一个点。 例如， 三维空间里的(超)平面只要给定了(x,y,z) 中任意两个分量， 剩下的一个的值就确定了。 先确定值的两个分量是自由的， 因为它们想取什么值就能取什么值；剩下的那个是“不自由的”，因为它的值已经由另外两确定了。二维空间里的超平面为一条直线。一维空间里超平面为数轴上的一个点。
　　
　　
在《 统计学习方法》一书给出如下说明：

其中,w与x都是D维列向量,x=(x₁,x₂,…,x_D)^T为平面上的点, w=(w₁,w₂,…,w_D)^T为平面的法向量。b是一个实数,，代表平面与原点之间的距离。
　　

所以显而易见：
二维平面就是（w1,w2）(x1;x2)+b=0，即w1x1+w2x2+b=0。（直线方程）
其中点到超平面的距离：
假设点x′为超平面A：w^Tx+b=0上的任意一点, 则点x到A的距离为x−x′在超平面法向量w上的投影长度：

　　
　　
　　
超平面的正面与反面
一个超平面可以将它所在的空间分为两半, 它的法向量指向的那一半对应的一面是它的正面, 另一面则是它的反面.
判断一个点是在超平面的正面还是反面(面向的空间里)，还是要用到它的法向量w。仍然假设点x′为超平面A：w^Tx+b=0上的任意一点, 点x为待判断的点。若x−x′ 与w的夹角小于90∘, 则x在A的正面, 否则在反面：

w^T(x−x′)>0 　　 =》　　w^Tx+b>0

所以判定依据为:

若将距离公式中分子的绝对值去掉, 让它可以为正为负. 那么, 它的值正得越大, 代表点在平面的正向且与平面的距离越远. 反之, 它的值负得越大, 代表点在平面的反向且与平面的距离越远.