机器学习复习：Adaboost算法

前言

  提升方法（boosting）是一种常用的机器学习方法，应用十分广泛，而且效果非常好，近几年的很多比赛的优胜选手都或多或少使用了提升方法用以提高自己的成绩。

  提升方法的本质是通过对每一个训练样本赋予一个权重，并通过改变这些样本的权重，来学习多个分类器，并按照一定的算法将这些分类器组合在一起，通常是线性组合，因为单个分类器往往效果有限，因此组合多个分类器往往会提高模型的性能。

一、提升方法简介

  提升方法（boosting）实际上是集成学习方法的一种，其基于这样的一种朴素思想：对于一个复杂的任务来说，将多个“专家”（这里的“专家”本意是指各种机器学习模型，可以较好地满足实际问题的需要）的意见进行适当的整合，进而得出最后的综合的判断，比其中任何一个单一的“专家”给出的判断要好。实际上，也就是“三个臭皮匠顶过诸葛亮”的意思。因此，boousting的本意就是寻找到合适的“臭皮匠”。

  在实际的数据处理的过程中，我们往往可以很容易地发现各种各样的弱机器学习模型，这些模型仅仅比随机猜测好一些，但是还远远不能满足实际作业的精度要求。但是要寻找到一个单一的十分强大的机器学习模型往往会十分困难，虽然可以很好的满足要求，但是寻找这样的模型并不容易。不过好在，我们可以通过整合之前发现的弱机器学习模型，来进行综合考虑，从而形成一个可以媲美单一的强大的机器学习模型。这些弱机器学习模型往往被称之为“弱学习方法”，强机器学习模型往往被称之为“强学习方法”。

二、AdaBoost算法

1、AdaBoost算法的过程

  输入：训练数据集$\{(x_1,y_1),(x_2,y_2),\cdots ,(x_N,y_N)\}$，其中$x_i\in {\mathbb{R}}^n$， $y_i\in \{-1,+1\}$

  输出：最终分类器$G(X)$

• 第一步：初始化训练数据的权值分布

$$D_1=(w_{11},w_{12},\cdots ,w_{1N}),w_{1i}=\frac{1}{N},i=1,2,\cdots ,N$$

• 第二步：开始循环，假设循环的最大次数为K

  • 第1步：使用当前的权值分布$D_m$的训练数据进行学习，得到基本分类器。

  $$G_m(x):\mathbb{X}\Rightarrow \{-1,+1\}$$

  • 第2步：计算$G_m(x)$在训练数据集上的分类误差率（这个分类误差率和权值分布相关）

  $$e_m=\sum$$

  • 第3步：计算$G_m(x)$的系数(这里的log表示的是自然对数。)

  $${\alpha }_m=\frac{1}{2}log(\frac{1-e_m}{e_m})$$

  • 第4步：更新训练数据集的权值分布

$$D_{m+1}=(w_{m+1,1},w_{m+1,2},\cdots ,w_{m+1,N})$$

$$w_{m+1,i}=w_{m,i}exp(-{\alpha }_m{y}_i{G}_m(x_i))$$

  最后将$D_{m+1}=(w_{m+1,1},w_{m+1,2},\cdots ,w_{m+1m,N})$规范化，使之成为一个和为1的概率分布。
$$w_{m+1,i}=\frac{w_{m+1,i}}{{\sum }_{j=1}^N{w}_{m+1,j}}$$

• 第三步：构建基本分类器的线性组合

$$f(x)=\sum _{m=1}^K{\alpha }_m{G}_m(x)$$

  得到最终的分类器
$$G(X)=sign(f(x))=sign(\sum _{m=1}^K{\alpha }_m{G}_m(x))$$

2、AdaBoost的使用

  详见《统计学习方法》一书。

3、Adaboost算法的推导

  从前面的例子中可以看出来，Adaboost算法本质上是一个迭代算法，在每一次迭代过程中都会根绝当前的样本权重生成一个分类器，再去更新每一个样本的权重，如果一个样本分类正确，那么它的权重会相应的减小，如果一个样本分类错误，那么它的权重会相应的增大，这样一来，下一轮的分类器就可以更好的关注那些分类错误的样本。

  因此，我们可以将Adaboost看作是一个损失函数是指数函数的前向提升算法。损失函数定义如下：
$$L(y_i,f(x_i))=exp(-y_{i}f(x_i))$$
  那么假设我们已经经过了$m-1$次迭代，生成了$m-1$个分类器，其中每一个分类器的权重我们记作${\alpha }_i$，每一次迭代生成的基分类器记作$G_j(x_i)$，分类器的下标表示的是迭代的次数，我们我们就可以得到经过了$m-1$次迭代之后的集成分类器为：
$$\begin{array}{rl}{f}_{m-1}(x)& =f_{m-2}(x)+{\alpha }_{m-1}{G}_{m-1}(x)\\ & =f_{m-3}(x)+{\alpha }_{m-2}{G}_{m-2}(x)+{\alpha }_{m-1}{G}_{m-1}(x)\\ & \cdots \\ & ={\alpha }_1{G}_1(x)+{\alpha }_2{G}_2(x)+\cdots +{\alpha }_{m-1}{G}_{m-1}(x)\end{array}$$
  因此，我们希望在第$m$次迭代的过程中可以获得分类器权重${\alpha }_m$和基分类器$G_m(x)$。我们的损失函数定义如上。

  根据上面的条件，我们可以根据损失函数极小化经验风险，有：
$$\begin{array}{rl}({\alpha }_m,G_m(x))& =\arg \underset{\alpha ,G}{\min }\sum _i^{N}L(y_i,f_m(x_i))\\ & =\arg \underset{\alpha ,G}{\min }\sum _i^{N}L(y_i,f_{m-1}(x_i)+\alpha G(x_i))\\ & =\arg \underset{\alpha ,G}{\min }\sum _i^{N}exp(-y_i(f_{m-1}(x_i)+\alpha G(x_i)))\\ & =\arg \underset{\alpha ,G}{\min }\sum _i^{N}exp(-y_i{f}_{m-1}(x_i))exp(-y_i\alpha G(x_i))\end{array}$$
  考虑到$exp(-y_i{f}_{m-1}(x_i))$中不包含需要优化的成分，因此，我们可以记为：$exp(-y_i{f}_{m-1}(x_i))=w_{m,i}$，表示的是第$m$轮中第$i$个样本的相关参数。所以，上面的式子可以写成：
$$({\alpha }_m,G_m(x))=\arg \underset{\alpha ,G}{\min }\sum _i^N{w}_{m,i}exp(-y_i\alpha G(x_i))$$
  记我们需要优化的式子为$H$，即有：$H={\sum }_i^N{w}_{m,i}exp(-y_i\alpha G(x_i))$

  对于每一个样本来说，都只对应两种状态当中的一种，即分类正确还是分类错误，所以，我们将这两种状态分别处理，因此，我们对上面的$H$可以改成成如下的式子：
$$\begin{array}{rl}H& =\sum _i^N{w}_{m,i}exp(-y_i\alpha G(x_i))\\ & =\sum _{i,G(x_i)=y_i}^N{w}_{m,i}{e}^{-\alpha }+\sum _{i,G(x_i)\ne y_i}^N{w}_{m,i}{e}^{\alpha }\\ & =e^{-\alpha }\sum _{i,G(x_i)=y_i}^N{w}_{m,i}+e^{\alpha }\sum _{i,G(x_i)\ne y_i}^N{w}_{m,i}\\ & =e^{-\alpha }\sum _i^N{w}_{m,i}I(G(x_i)=y_i)+e^{\alpha }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\end{array}$$
  在上面的式子中，我们为了将两个式子相加变成一个式子，我们增加两个无关项，这两个无关项相减之后结果为0，即有：
$$\begin{array}{rl}H& =e^{-\alpha }\sum _i^N{w}_{m,i}I(G(x_i)=y_i)+e^{\alpha }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & =e^{-\alpha }\sum _i^N{w}_{m,i}I(G(x_i)=y_i)\\ & +e^{-\alpha }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)-e^{-\alpha }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & +e^{\alpha }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & =e^{-\alpha }\sum _i^N{w}_{m,i}(I(G(x_i)=y_i)+I(G(x_i)\ne y_i))\\ & +(e^{\alpha }+e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & =e^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }-e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\end{array}$$
  从上面的式子的最后一行可以看出，$w_{m,i}$与极小化无关，可以看作是一个常量，而$\alpha$是一个待定常数，也和$G(x)$的极小化无关，因此，对于需要优化的$G(x)$来说，我们有：
$$\begin{array}{rl}({\alpha }_m,G_m(x))& =\arg \underset{\alpha ,G}{\min }\sum _i^N{w}_{m,i}exp(-y_i\alpha G(x_i))\\ & =\arg \underset{\alpha ,G}{\min }{e}^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }-e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\end{array}$$

$$\begin{array}{rl}{G}_m(x)& =\arg \underset{G}{\min }\sum _i^N{w}_{m,i}exp(-y_i\alpha G(x_i))\\ & =\arg \underset{G}{\min }{e}^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }-e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & =\arg \underset{G}{\min }(e^{\alpha }-e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\\ & =\arg \underset{G}{\min }\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)\end{array}$$

  对于参数$\alpha$来说，我们对上面的式子进行求导，即有：
$$H=e^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }-e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)$$

$$\frac{\partial H}{\partial \alpha }=-e^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }+e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)$$

  令上面的式子等于0，即$\frac{\partial H}{\partial \alpha }=0$，有：
$$e^{-\alpha }\sum _i^N{w}_{m,i}+(e^{\alpha }+e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)=0$$

$$(e^{\alpha }+e^{-\alpha })\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)=e^{-\alpha }\sum _i^N{w}_{m,i}$$

$$(e^{\alpha }+e^{-\alpha })\frac{{\sum }_i^N{w}_{m,i}I(G(x_i)\ne y_i)}{{\sum }_i^N{w}_{m,i}}=e^{-\alpha }$$

  不妨记$\frac{{\sum }_i^N{w}_{m,i}I(G(x_i)\ne y_i)}{{\sum }_i^N{w}_{m,i}}=e_m$，那么，我们有：
$$(e^{\alpha }+e^{-\alpha })e_m=e^{-\alpha }$$
  两边同时乘以$e^{\alpha }$，有：
$$(e^{2\alpha }+1)e_m=1$$

$$e^{2\alpha }=\frac{1}{e_m}-1=\frac{1-e_m}{e_m}$$

  两边取对数，有：
$$2\alpha =ln(\frac{1-e_m}{e_m})$$

$$\alpha =\frac{1}{2}ln(\frac{1-e_m}{e_m})$$

  所以，当我们计算出了相应的基函数权重$\alpha$和基函数$G(x)$之后，我们就可以将之前的计算出的所有的基函数及其权重进行相加，得到一个由若干弱分类器（学习器）结合而成的强分类器（学习器）。

  现在我们考虑一下$w_{m,i}$的计算，从前面的计算过程可以看出，$w_{m,i}$本质上可以看作是样本的权重。因此，在算法开始前，我们一般需要将所有样本的权重设置为相同的值，如果有$N$个样本，我们就应该将$w_{1,i}$设置为$\frac{1}{N}$。而在Adaboost算法中，当我们更新完每一个样本的权值之后，也会对样本权值进行规范化操作，使得${\sum }_i^N{w}_{m,i}=1$。所以，我们有：
$$e_m=\frac{{\sum }_i^N{w}_{m,i}I(G(x_i)\ne y_i)}{{\sum }_i^N{w}_{m,i}}=\frac{{\sum }_i^N{w}_{m,i}I(G(x_i)\ne y_i)}{1}=\sum _i^N{w}_{m,i}I(G(x_i)\ne y_i)$$
  因此，$e_m$又被称作是分类误差率，它的取值和样本的权值密切相关。

  假设我们已经通过前面的步骤求出了$\alpha$和$G(x)$，则我们有：
$$f_m(x)=f_{m-1}(x)+{\alpha }_m{G}_m(x)$$
  又根据前面的公式，我们有：$w_{m,i}=exp(-y_i{f}_{m-1}(x_i))$

  那么我们需要的更新的$w_{m+1,i}$为：
$$\begin{array}{rl}{w}_{m+1,i}& =exp(-y_i{f}_m(x_i))\\ & =exp(-y_i(f_{m-1}(x_i)+{\alpha }_m{G}_m(x_i)))\\ & =exp(-y_i(f_{m-1}(x_i))exp(-y_i{\alpha }_m{G}_m(x_i))\\ & =w_{m,i}exp(-y_i{\alpha }_m{G}_m(x_i))\end{array}$$
  如前所言，在更新完样本权值之后，我们需要对其规范化，有：
$$w_{m+1,i}=\frac{w_{m+1,i}}{{\sum }_j^N{w}_{m+1,j}}=\frac{w_{m,i}exp(-y_i{\alpha }_m{G}_m(x_i))}{{\sum }_j^N{w}_{m,j}exp(-y_j{\alpha }_m{G}_m(x_j))}$$
  以上就是Adaboost算法的全部推导过程。