数学基础知识(1) 点到超平面距离

摘要

        本文给出点到超平面的距离公式，并进行了推导证明。该距离用于深度学习中感知机损失函数的计算，将误差点带入该距离即可计算该点与超平面间的损失距离。

符号说明

        记$n$维欧式空间下一点$M_0:x_0=(x_0^{(1)},x_0^{(2)},x_0^{(3)},...,x_0^{(n)})$
        超平面$L：w\cdot x+b=0$，其中$w=(w^{(0)},w^{(1)},w^{(3)},...,w^{(n)})$，$w\cdot x$是二者的内积，$b$为常数。
        则点$M_0$到超平面$L$的距离为$d=\frac{1}{||w||}|w\cdot x_0+b|$。下面给出简要推导。

证明

• 取超平面$L$上的一点$M_1:x_1=(x_1^{(1)},x_1^{(2)},x_1^{(3)},...,x_1^{(n)})$，有$x_1\cdot w+b=0$
• 超平面$L$的法向量为$w=(w^{(0)},w^{(1)},w^{(3)},...,w^{(n)})$
• $\begin{array}{rl}d& =||M_0{M}_1||cos(M_0{M}_1,w)=||M_0{M}_1||\frac{|M_0{M}_1\cdot w|}{||M_0{M}_1||||w||}\\ & =\frac{|(x_1-x_0)\cdot w|}{||w||}=\frac{|x_1\cdot w-x_0\cdot w|}{||w||}=\frac{|-b-x_0\cdot w|}{||w||}\\ & =\frac{1}{||w||}|w\cdot x+b|\end{array}$
  证明完毕。
  该公式的使用参见我的博文 机器学习（2） 感知机原理及实现。