机器学习笔记高维空间之超平面

1.超平面定义

最近重新翻起李航蓝皮书，发现对很多定义挺模糊，超平面也没有解释。

本来空间想象力就不好，又查了些资料，总算想明白困扰已久的高维空间问题，记录一下，供大家参考。

（百度百科）：超平面H是从n维空间到n-1维空间的一个映射子空间。

比如我们平时处在3维空间，则平面代表2维（超）平面。

2.二维空间分解

为方便理解，我们先引入二维空间（x1，x2）分解。

二维空间下超平面代表一条线（1维）

①给定空间内一个任意向量如w=（0,1），则wx=0（x∈R，y=1）代表一个过原点的超平面H0,w为该平面的法向量。

②该超平面平移k单位可得另一个超平面Hk，wx=0+k，w仍为该平面的法向量

③由①②可知，对任意一个超平面wx=k，w代表该平面的法向量，k代表截距.

     令k∈R，可得整个空间。

④通过移项，可得二维（n维）空间下任意超平面可表示为wx+b=0，点集wx+b>0,wx+b>0分布在两侧。参数w为二维(n维)法向量，b为常数（相当于截距）

任意一点到该基准超平面的距离为|wx+b|/||w||(L2范数).

⑤以感知机算法为例,核心思想就是根据训练集找到分离超平面S(参数w和b)，得出模型。

补一句：

以前一直容易晕无差异曲线，搞懂超平面之后就很好理解了，