李航：统计学习方法 学习笔记 2 感知机三问

1. 空间中任意一点x0到超平面S的距离公式推导

参考 空间中任意一点到超平面距离的公式推导。

2. Novikoff 定理中为何可以直接令 $||{\hat{w}}_{opt}||=1$ ？

将偏置b并入权重向量w，则有 $\hat{w}=(w^T,b{)}^T$ ，同样的，$\hat{x}=(x^T,1{)}^T$。显然， $\hat{w}\cdot \hat{x}=w\cdot x+b$ 。

此时超平面 S 可表示为 $\hat{w}\cdot \hat{x}=0$，可以对 $\hat{w}$ 进行单位化，表示的仍是同一个平面。

3. 感知机学习算法的对偶形式

对偶形式即是将 w 和 b 表示成实例 xi 和 标记 yi 的线性组合的形式，由于对某一个实例可能有多次误判而进行多次更新，还需记录其更新次数。