GBDT分类实战完全总结（一）

第一部分：参数说明

（一）、简述

sklearn自带的ensemble模块中集成了GradientBoostingClassifier的类，参数包括：

class  sklearn.ensemble. GradientBoostingClassifier ( loss=’deviance’ ,  learning_rate=0.1 ,  n_estimators=100 ,  subsample=1.0 ,  criterion=’friedman_mse’ ,  min_samples_split=2 ,  min_samples_leaf=1 ,  min_weight_fraction_leaf=0.0 ,  max_depth=3 ,  min_impurity_decrease=0.0 ,  min_impurity_split=None ,  init=None ,  random_state=None ,  max_features=None ,  verbose=0 ,  max_leaf_nodes=None ,  warm_start=False ,  presort=’auto’ ) 源代码见 [source]

（二）、参数含义及可取的值

●表示可选参数，★ 表示默认参数

1、 loss  : {‘deviance’, ‘exponential’}, optional (default=’deviance’)---------损失函数

● exponential：模型等同AdaBoost

★ deviance：和Logistic Regression的损失函数一致

2、 learning_rate  : float, optional (default=0.1)-------- 学习率（缩减）

注： 即每个弱学习器的权重缩减系数ν，也称作步长，ν的取值范围为0<ν≤1。

3、