机器学习算法中的blending和stacking到底有什么区别

关于blending和stacking的区别很多人不是很清楚，一些文章也没有讲清楚甚至有一些错误。blending较stacking的主要区别在于，blending选取特定比例的数据作为验证集（比如5%，20%等等），其余作为训练集，而stacking使用交叉验证，分别将不同的部分数据作为验证集和训练集，这意味着：

1. blending每次只训练一个模型，而stacking训练模型数和交叉验证折数相关；
2. blending训练时训练集和验证集是确定不变的，stacking则是通过交叉验证使得所有数据都做过验证集。