8、集成学习知识点

集成学习是一种机器学习范式，多个学习器被训练来解决同一个问题。与普通的机器学习方法试图从训练数据中学习一个假设不同，集成方法试图构建一组假设并将它们组合起来。更像是一种训练策略


bagging：（有放回采样，用同一模型训练）
boosting：（基模型的训练集按照某种策略每次都进行一定的转化，如权重）
stacking：（将预测值作为新的训练集，再在模型中训练）（训练集、测试集）
blending：（验证集进行预测，结果作为新的训练数据）（训练集、验证集、测试集）
随机森林：（由很多决策树组成，每一棵决策树之间没有关联）