天池新手赛——街景字符编码识别（五）

天池新手赛——街景字符编码识别（五）

Task 5 模型集成

常用的集成方法

• Boosting方法训练基分类器时采用串行的方式，各个基分类器之间有依赖。它的基本思路是将基分类器层层叠加，每一层在训练的时候，对前一层基分类器分错的样本，给予更高的权重。测试时，根据各层分类器的结果的加权得到最终结果。
• Bagging与Boosting的串行训练方式不同，Bagging方法在训练过程中，各基分类器之间无强依赖，可以进行并行训练。
• 集成学习一般可分为以下3个步骤。

（1）找到误差互相独立的基分类器。
（2）训练基分类器。
（3）合并基分类器的结果。

深度学习中的集成方法

1. Dropout
2. TTA（测试集数据扩增）
3. Snapshot