《统计学习方法，李航》：8、提升方法Boosting（1）

1）Boosting思想和基本概念

2）AdaBoost算法

3）AdaBoost算法举例

4）AdaBoost算法的解释——前向分步算法

5）提升树算法

6）提升树算法举例

1）Boosting思想和基本概念

 

下面的概念前面都讲过：

PAC（probably approximately correct）学习框架

强可学习（strongly learnable）

弱可学习（weakly learnable）

提升算法中最具有代表性的是AdaBoost算法（adaptive boosting）：

2）AdaBoost算法

关于AdaBoost算法，作以下几点说明：

另外提一点，AdaBoost算法学习的本质是不断减少训练误差，而这个训练误差在某种情况下是以指数速率下降的，关于这一点，参考原书P142-P143。

3）AdaBoost算法举例