推荐收藏 | 决策树、随机森林、bagging、boosting、Adaboost、GBDT、XGBoost总结
作者:ChrisCaohttps://zhuanlan.zhihu.com/p/75468124一.决策树决策树是一个有监督分类模型,本质是选择一个最大信息增益的特征值进行分割,直到达到结束条件或叶子节点纯度达到阈值。下图是决策树的一个示例图:根据分割指标和分割方法,可分为:ID3、C4.5、CART算法。1.ID3算法:以信息增益为准则来选择最优划分属性信息增益的计算是基于信息熵(度量样本集合纯