机器学习复习——GBDT

GDBT：

GBDT(Gradient Boosting Decision Tree) 又叫 MART（MultipleAdditive Regression Tree)，它是一种迭代的决策树算法。

该算法由多棵决策树组成，所有树的输出结果累加起来就是最终答案。

它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引起大家关注。

GBDT是回归树，不是分类树。其核心就在于，每一棵树是从之前所有树的残差中来学习的。

为了防止过拟合，和Adaboosting一样，也加入了boosting这一项。

关于GDBT的介绍可以可以参考： GBDT （MART ） 迭代决策树入门教程 | 简介