数学基础知识系列 - 点到超平面的距离

假设有点$x_0=(x_0^1,x_0^2,...x_0^m)$不在超平面$y=wx\ast b$上，其中$w=(w^1,w^2,...w^m)$，求$x_0$到$y=wx\ast b$的距离。

步骤一：证明$w$为超平面$y=wx+b$的法向量。
在超平面上取两个点$x_1，x_2$，则有
$w{x}_1+b=0$
$w{x}_2+b=0$
$w{x}_1+b-(w{x}_2+b)=0$
$w{x}_1-w{x}_2=0$
$w(x_1-x_2)=0$
其中$x_1-x_2$为位于超平面上的向量$x_2{x}_1$
$w$与$x_1-x_2$内积为0， 由此得$w$与超平面$y=wx+b$正交。

步骤二：在$y=wx+b$上取点$x_0$的映射$x_3$，

• $x_3$位于法平面上，故而 $w{x}_3+b=0$。
• $x_0{x}_3$平行于超平面上的法向量$w$，故而有：
  $|w{x}_0{x}_3|=|w||x_0{x}_3|cos\theta$
  $=|w||x_0{x}_3|=||w||d（d为x_0到超平面的距离,||w||为L_2范数）$
  又 $|w.x_0{x}_3|=|w.(x_3-x_0)|$
  $=|w.x_3-w.x_0|$
  $=|-(b+w.x_0)|$
  $=|b+w.x_0|$
  所以得到 $||w||d=|b+w.x_0|$
  $d=\frac{|b+w.x_0|}{||w||}$