模型融合的主要方法

提交文件创建融合模型(只需要之前得到的结果,不需要重新训练)Bagging
投票融合(Voting)
加权融合(weighing)
平均融合(Averaging)
排序平均(Rank averaging)
对于auc,其本质就是一个排序,预测出的auc的值可以转化为排名的特征,然后在进行融合(参考DC人品预测大赛)
堆栈泛化创建融合模型Boosting
堆栈泛化(stacking)
训练集A+B
训练A之后预测B的结果
训练B之后预测A的结果
用所有的数据训练模型,然后对测试集预测
训练一个第二阶段的堆栈模型,利用第一阶段得到的概率作为特征,单独训练
混合(Blending)
使用逻辑回归堆叠
特征加权线性堆叠

你可能感兴趣的:(机器学习算法)