超平面公式推导及理解

  最近在学习《统计学习方法》,在学习第一个机器学习算法 ——感知机时,提出了超平面的概念,以下为超平面公式的推导及空间中任意一点距离超平面距离的推导。方便日后复习。参考

超平面

  在数学中,超平面是n维欧氏空间中,余维度为1的子空间[1]。即超平面是n维空间中的n-1维的子空间。它是平面中的直线、空间中的平面之推广。
  上面的这句话,读完应该不是很清楚,下面详细介绍一下。下面的解释参考了知乎上的文章:一根芦苇儿

  • 我们都知道,0维的点可以将1维的线分为两个部分:
    超平面公式推导及理解_第1张图片
  • 1维的线可以将2维的平面分成两个部分:
    超平面公式推导及理解_第2张图片
  • 2维的面可以将3维的体分成两部分:
    超平面公式推导及理解_第3张图片
      以此类推,n-1维的子空间,可以将n维的空间分为两个部分。所以超平面就是这个n-1维子空间,他就像3维空间中的平面,可以用来将n维空间分割成为两个部分。

超平面公式

超平面公式推导

  在n维空间中,超平面该如何表示?
  在n维空间中,假设x0为超平面上的一点,w为超平面的法向量,对于超平面上任意的一点x,都存在:

令:
则变为:
这就是超平面的公式。
点到超平面的距离

  设n维超平面的方程为:

其中w为法向量,Q为平面上的一点。对于空间中的任意一点P,到超平面的距离为PQ在w上的投影,如下图所示:

超平面公式推导及理解_第4张图片
如果求d,则可以更加三角函数关系知:

而其中的夹角余弦值为:
则可以得到点到超平面的距离为:

你可能感兴趣的:(机器学习)