SVM理论基础——原问题及其对偶问题的推导

#原问题提出
给定一个二分类问题的训练样本集$D=\{({\mathbf{x}}_1,y_1),({\mathbf{x}}_2,y_2),...,({\mathbf{x}}_m,y_m)\},y_i\in \{-1,+1\}$，我们的目标是找到一条分界线/超平面来将两类区分开，如下图：

在样本空间中，超平面可以通过以下线性方程来描述：
$${\mathbf{w}}^T\mathbf{x}+b=0$$
其中，$\mathbf{w}=(w_1,w_2,...,w_d)$为法向量，决定了超平面的方向；$b$为位移项，决定了超平面与原点的距离。

如果一个超平面能够将训练样本正确分类，则我们希望这个超平面具有的性质是，对于$({\mathbf{x}}_i,y_i)\in D$，有
$$
\boldsymbol{w}^T\boldsymbol{x}+b\left{
\begin{aligned}

0,\ y_i=+1 \
<0,\ y_i=-1
\end{aligned}
\right.
$$
这个式子也是我们在得到超平面之后预测一个新样本的判决条件。

显然，上图中 5 个超平面都满足要求。但是，哪一个是最好的呢？

直观上看，应该去找位于两类训练样本“正中间”的超平面，即上图中最粗的分界线。因为这条线能够在最大程度上容忍两类的数据波动和噪声。

因此，为了能够得到“正中间”位置的超平面，我们将上述条件变得更加严格：
$${\mathbf{w}}^T\mathbf{x}+b\{\begin{array}{r}\ge +1,y_i=+1\\ \le -1,y_i=-1\end{array}(1)$$
显然，条件严格后，靠近样本边缘的一些超平面可能会不符合要求，最后会剩下比较靠中间的几个超平面。
那么，如何选出最“正中间”的那个超平面呢？我们可以给一个具体的量化目标：让超平面与最近的样本的距离最大。

如下图所示，距离超平面最近的这几个样本点可以使得公式 (1) 的等号成立，它们被称为“支持向量”（Support Vector）。

样本空间中任意点$\mathbf{x}$到超平面的距离的计算公式为：
$$r=\frac{|{\mathbf{w}}^T\mathbf{x}+b|}{||\mathbf{w}||}$$
因此，两类的支持向量到超平面的距离之和为
$$\gamma =\frac{2}{\mathbf{w}},$$
它被称为“间隔”。

如果想找到具有“最大间隔”（maximum margin）的超平面，那么需要最大化$\gamma$，也就是需要最小化$||\mathbf{w}|{|}^2$。因此，最后需要求解的问题为：
$$\begin{array}{rl}\underset{\mathbf{w},b}{\max }& \frac{1}{2}||\mathbf{w}|{|}^2\\ s.t.& y_i({\mathbf{w}}^T\mathbf{x}+b)\ge 1,i=1,2,...,m\end{array}(2)$$
这就是支持向量机（Support Vector Machine,SVM）的基本型。

对偶问题推导

我们希望求解问题 (2) 来得到“正中间”的分界超平面：
$$f(\mathbf{x})={\mathbf{w}}^T\mathbf{x}+b$$
其中，$\mathbf{w}$ 和 $b$ 是模型参数，正是问题 (2) 的最优解。问题 (2) 本身是一个凸二次规划问题，可以直接使用现成的优化计算包求解。但我们有更高效的办法，即转为求解其对偶问题，转换过程如下。

根据拉格朗日乘子法，对原问题的每条约束添加拉格朗日乘子 $\alpha \ge 0$，则该问题的拉格朗日函数可写为：
$$L(\mathbf{w},b,\mathbf{\alpha })=\frac{1}{2}||\mathbf{w}|{|}^T+\sum _{i=1}^m{\alpha }_i[1-y_i({\mathbf{w}}^T{\mathbf{x}}_i+b)](3)$$
其中 $\mathbf{\alpha }=({\alpha }_1,{\alpha }_2,...,{\alpha }_m)。$
可发现
$${\alpha }_i[1-y_i({\mathbf{w}}^T{\mathbf{x}}_i+b)]\le 0$$
所以$L(\mathbf{w},b,\mathbf{\alpha })\le \frac{1}{2}||\mathbf{w}|{|}^T$，即拉格朗日函数是原问题的一个下界。我们要想找到最接近原问题最优值的一个下界，就需要求出下界的最大值。

根据拉格朗日对偶性，原始问题的对偶问题是最大化最小问题：
$$\underset{\alpha }{\max }\underset{\mathbf{w},b}{\min }L(\mathbf{w},b,\mathbf{\alpha })$$

首先，求 ${\min }_{\mathbf{w},b}L(\mathbf{w},b,\mathbf{\alpha })$ ，消除掉 $\mathbf{w},b$：分别令 $\mathbf{w},b$ 的偏导为0，可推出
$$\begin{array}{rl}\frac{\partial L}{\partial \mathbf{w}}& =\mathbf{w}+\sum _{i=1}^m{\alpha }_i(-y_i{\mathbf{x}}_i)=0\Rightarrow \mathbf{w}=\sum _{i=1}^m{\alpha }_i{y}_i{\mathbf{x}}_i(4)\\ \frac{\partial L}{\partial \mathbf{w}}& =-\sum _{i=1}^m{\alpha }_i{y}_i=0\Rightarrow \sum _{i=1}^m{\alpha }_i{y}_i=0(5)\end{array}$$
将公式（4）（5）带入到拉格朗日函数(3)，得到
$$\begin{array}{rl}L(\mathbf{w},b,\mathbf{\alpha })& =\frac{1}{2}||\mathbf{w}|{|}^T+\sum _{i=1}^m{\alpha }_i[1-y_i({\mathbf{w}}^T{\mathbf{x}}_i+b)]\\ & =\frac{1}{2}{\mathbf{w}}^T\mathbf{w}+\sum _{i=1}^m{\alpha }_i-\sum _{i=1}^m{\alpha }_i{y}_i{\mathbf{x}}_i^T\mathbf{w}-\sum _{i=1}^m{\alpha }_i{y}_{i}b\\ & =\frac{1}{2}{\mathbf{w}}^T\mathbf{w}+\sum _{i=1}^m{\alpha }_i-{\mathbf{w}}^T\mathbf{w}-0\\ & =\sum _{i=1}^m{\alpha }_i-\frac{1}{2}\sum _{i=1}^m\sum _{j=1}^m{\alpha }_i{\alpha }_j{y}_i{y}_j{\mathbf{x}}_i^T{\mathbf{x}}_j^T\end{array}$$
因此，问题（2）的对偶问题是
$$\begin{array}{rl}\underset{\alpha }{\max }& \sum _{i=1}^m{\alpha }_i-\frac{1}{2}\sum _{i=1}^m\sum _{j=1}^m{\alpha }_i{\alpha }_j{y}_i{y}_j{\mathbf{x}}_i^T{\mathbf{x}}_j^T(6)\\ s.t.& \sum _{i=1}^T{\alpha }_i{y}_i=0\\ & {\alpha }_i\ge 0,i=1,2,...,m.\end{array}$$
解出 $\mathbf{\alpha }$ 后，求出 $\mathbf{w}$ 和 $b$ 。

（1）$\mathbf{w}$ 可以由公式（4）得到。

（2）$b$ 可以根据一个支持向量必定会满足的条件得到：$y_i({\mathbf{w}}^T{\mathbf{x}}_i+b)=1$，因此如果第 $k$ 个样本是一个支持向量（即 ${\alpha }_k>0$），可以得到 $b=y_k-{\mathbf{w}}^T{\mathbf{x}}_k$。不过，经常会将所有的支持向量都计算出对应的 $b$ 来，然后取均值：
$$b=\frac{1}{n_s}\sum _{i=1}^m(y_i-{\mathbf{w}}^T{\mathbf{x}}_i)I({\alpha }_i>0)$$
其中，$n_s$为支持向量的个数，即 $n_s=count({\alpha }_i>0)$。
综上，可以得到分界线：
$$\begin{array}{rl}f(\mathbf{x})& ={\mathbf{w}}^T\mathbf{x}+b\\ & =\sum _{i=1}^m{\alpha }_i{y}_i{\mathbf{x}}_i^T\mathbf{x}+\frac{1}{n_s}\sum _{i=1}^m(y_i-{\mathbf{w}}^T{\mathbf{x}}_i)I({\alpha }_i>0)\end{array}$$
需要注意的是，问题（2）有不等式约束，因此对偶问题需要满足KKT条件：
$$\{\begin{array}{rl}& {\alpha }_i\ge 0\\ & y_{i}f({\mathbf{x}}_i)-1\ge 0\\ & {\alpha }_i(y_{i}f({\mathbf{x}}_i)-1)=0\end{array}$$
因此，对于训练样本 $({\mathbf{x}}_i,y_i)$，总有 ${\alpha }_i=0$ 或 $y_{i}f({\mathbf{x}}_i)=1$。若 ${\alpha }_i=0$，则该样本不会对 $f(\mathbf{x})$ 的值有任何影响；若 ${\alpha }_i>0$，则必有 $y_{i}f({\mathbf{x}}_i)=1$，所对应的样本点位于最大间隔边界上，是一个支持向量。这显示出支持向量的一个重要性质：训练完成后，大部分的训练样本都不需要保留，最终模型仅与支持向量有关。