回归树

随机森林和GBDT的区别

其输出的类别由各个树投票而定（如果是回归树则取平均）。
小孟Tec·2019-09-06 22:24

XGBOOST学习实战

5a1624d9f265da43310d79d5二XGBOOST和GBDT区别1.XGBoost比GBDT多了两项泰勒展开式XGBoost算法可以看成是由K棵树组成的加法模型：XGBoost加法模型其中F为所有树组成的函数空间（这里的回归树也就是一个分段函数
Chelseady·2019-09-06 20:27

机器学习

机器学习实战0数据挖掘十大算法C4.5决策树K-均值（K-mean）支持向量机（SVM）Apriori最大期望算法（EM）PageRank算法AdaBoost算法k-近邻算法（kNN）朴素贝叶斯算法（NB）分类回归树算法
qq_42618217·2019-09-05 16:00

大白话5分钟带你走进人工智能-第32节集成学习之最通俗理解XGBoost原理和过程

目录1、回顾：1.1有监督学习中的相关概念1.2回归树概念1.3树的优点2、怎么训练模型：2.1案例引入2.2XGBoost目标函数求解3、XGBoost中正则项的显式表达4、如何生长一棵新的树？
L先生AI课堂·2019-08-14 17:00

高级算法梳理- ->Test3

CART树算法分类与回归树的英文是ClassficationAndRegressionTree，缩写为CART。
a1103688841·2019-08-12 17:58

GBDT算法梳理

对于分类问题决策树是二叉分类树，对于回归问题决策树是二叉回归树。提升树模型可以表示为决策树的加法模型：GBDT（梯度提升树）是集成学习
紫砂痕·2019-08-11 00:54

Spark随机森林实现票房预测

前言最近一段时间都在处理电影领域的数据,而电影票房预测是电影领域数据建模中的一个重要模块,所以我们针对电影数据做了票房预测建模.前期工作一开始的做法是将这个问题看待成回归的问题,采用GBDT回归树去做.
Quincy1994·2019-08-10 12:01

GBDT算法梳理

BDT回归树，基本思想是：根据每个基学习器剩余的残差，即损失函数的值。在残差减少的方向上建立一个新的基学习器，直到达到一定拟合精度后停止
烟笼白山茶·2019-08-09 16:16

十一，专著研读（CART算法）

十一，专著研读（CART算法）CART称为分类回归树，既能用于分类也能用于回归。使用二元切分方法处理连续型变量，给定特定值，如果特征值大于给定值就走左子树，否则走右子树。
周安伟·2019-08-02 21:00

类目特征使用

无论是XGBoost还是其他的BoostingTree，使用的Tree都是cart回归树，这也就意味着该类提升树算法只接受数值特征输入，不直接支持类别特征，默认情况下，xgboost会把类别型的特征当成数值型
weixin_30496431·2019-07-17 22:10

决策树算法梳理

目录0.前言1.信息论基础1.1熵1.2联合熵1.3条件熵1.4信息增益1.5基尼不纯度2.决策树不同分类算法的原理及应用场景2.1ID32.2C4.52.3CART2.3.1CART分类树2.3.2回归树
Cool_Pepsi·2019-07-17 22:34

Machine_Learning_2019_Task 10 CART

Machine_Learning_2019_Task10CART要求学习Gini指数学习回归、分类树剪枝CART树目标变量是类别型——分类树：Gini指数目标变量是连续型——回归树：平方误差最小化(前期
Hirotransfer·2019-06-18 17:42

带答案面经分享-面试中最常考的树模型！

答案是小编的理解，如果有遗漏的地方，欢迎大家在留言区指正，同时，如果有更多关于树模型的题目，也欢迎在留言区补充)公众号可以阅读全文：问题目录：1、决策树的实现、ID3、C4.5、CART（贝壳）2、CART回归树是怎么实现的
文哥的学习日记·2019-06-15 16:10

Machine_Learning_2019_Task 8 决策树

Machine_Learning_2019_Task8决策树ID3（基于信息增益）C4.5（基于信息增益比）CART（Gini指数）扩充：学习CART的生成(回归树模型)【参考统计学习方法】熵：H(x)
Hirotransfer·2019-06-11 15:12

西瓜书第四章总结

西瓜书第四章总结1.树的划分流程2.树的划分选择3.如何对抗过拟合4.如何处理连续值与缺失值CART分类树与回归树原理参考1.树的划分流程2.树的划分选择树的划分选择也即如何选择最优划分属性常用三种划分规则
心静菩提现·2019-05-23 20:44

机器学习基础——决策树

GiniIndex）1.3.信息增益2.决策树2.1.基本流程2.2.1.分支节点划分原则：纯度原则2.2.2.构建决策树2.2.3.剪枝2.2.4.优缺点分析3.CART算法3.1.CART决策树生成3.1.1.回归树的生成
lankuohsing·2019-05-21 23:50

ML算法推导细节08—极端梯度提升XGBoost

深入了解算法原理XGBoost的参考资料XGBoost:AScalableTreeBoostingSystem，论文原文，KDD@2016，华盛顿大学，陈天奇博士XGBoostPPT资料，陈天奇XGBoost1.回归树集成
九方先生·2019-05-20 21:35

ML算法推导细节07—梯度提升决策树GBDT

探究算法细节，深入了解算法原理梯度提升决策树GBDT1.CART回归树1.1回归树与分类树的区别1.2CART回归树损失函数1.3CART回归树模型2.提升树算法2.1回归问题的提升树算法2.2回归问题的提升树算法流程
九方先生·2019-05-19 19:39

基于ID3算法的决策树研究与天气预测C++实现

决策树分为分类树和回归树两种，分类树是对离散变量做决策树，回归树是对连续变量做决策树。构造决策树是采用自上而下的递归构造方法。决策树构造的结果是一棵二叉或多叉树，它的输入是一组带有类别标
Matrix_x·2019-05-18 23:01

Datawhale----初级算法梳理（Task_3）

决策树算法梳理信息论基础熵联合熵条件熵信息增益基尼不纯度决策树的不同分类算法的原理及其应用场景ID3算法C4.5CART分类树回归树原理决策树防止过拟合手段.模型评估sklearn参数详解，Python
-zh-·2019-05-18 16:36

集成学习之GBDT算法

Boosting树算法Boosting树算法采用的是前向分步算法，假设前m-1轮迭代得到的强学习器是fm−1(x)f_{m-1}(x)fm−1(x)，第m轮的迭代目标是训练一个CART回归树模型的弱学习器
code__online·2019-05-17 15:48

大白话5分钟带你走进人工智能-第二十七节决策树系列之预剪枝和后减枝和叶子结点如何表达(6)

第二十七节决策树系列之预剪枝和后减枝(6)上一节中我们讲解了决策树中的回归树的问题Cart树，我们再来回顾下，决策树的四个问题。1、它分几支。2、它怎么判断分裂条件。有Gini系数，MSE等。
L先生AI课堂·2019-05-17 11:00

大白话5分钟带你走进人工智能-第二十六节决策树系列之Cart回归树及其参数(5)

第二十六节决策树系列之Cart回归树及其参数(5)上一节我们讲了不同的决策树对应的计算纯度的计算方法，其实都是针对分类来说，本节的话我们讲解回归树的部分。
L先生AI课堂·2019-05-17 11:00

GBDT梯度提升树算法及官方案例

选择损失函数，默认值为ls(leastsqures)learning_rate:学习率，模型是0.1n_estimators:弱学习器的数目，默认值100max_depth:每一个学习器的最大深度，限制回归树的节点数目
Kyrie_Irving·2019-05-06 16:07

梯度提升决策树(GBDT)与极端梯度提升(xgboost)算法

树的叶子节点输出确定基CART树的结构xgboost的并行计算xgboost的过拟合处理梯度提升决策树(GBDT)  梯度提升决策树(GBDT)算法是梯度提升(GB)算法限定基学习器是回归决策树时的模型，尤其是CART回归树
Leon_winter·2019-05-06 09:57

GBDT算法梳理

若弱学习器限定了只能使用CART回归树模型[请参见人工智能(43)]，则变成了GBDT梯度提升决策树。GBDT梯度提升决策树也是集成学习
阿尔法小队·2019-04-06 15:02

机器学习实战-笔记

年选出的十大数据挖掘算法C4.5决策树、K-均值（K-mean）、支持向量机（SVM）、Apriori、最大期望算法（EM）、PageRank算法、AdaBoost算法、k-近邻算法（kNN）、朴素贝叶斯算法（NB）和分类回归树
王庆93·2019-04-05 13:49

提升树 & GBDT

这里分类树（二分类）就用Adaboost就行回归树采用残差训练在考虑，如何让训练过程快一点：让损失函数沿着梯度方向的下降。这个就是gbdt的gb的核心了。
Piggy、、·2019-04-02 16:12

《机器学习实战》

年选出的十大数据挖掘算法C4.5决策树、K-均值（K-mean）、支持向量机（SVM）、Apriori、最大期望算法（EM）、PageRank算法、AdaBoost算法、k-近邻算法（kNN）、朴素贝叶斯算法（NB）和分类回归树
oppy·2019-03-30 12:04

决策树、随机森林、GBDT

概念决策树(DecisionTree)分为两大类，回归树(RegressionDecisionTree)和分类树(ClassificationDecisionTree)。
HRain·2019-03-25 20:26

从决策树到XGBoost

XGBoost介绍文章目录XGBoost介绍一.决策树二.信息增益和信息增益比三.剪枝四.CART算法回归树分类树CART剪枝五.前向分步算法提升树模型梯度提升树模型六.XGBoost算法稀疏寻找算法一
cnyanpan·2019-03-22 15:52

【树】分类树、回归树原理及代码

1.分类树(ClassificationTree)原理：内部节点表示一个特征或者一个属性，叶子节点表示一个类。用决策树分类，从根节点开始，对实例的某一个特征进行分类，根据分类结果，将实例分配到子节点，这时，每一个子节点对应着该特征的一个取值；如此递归的分配下去，直到将该实例分配到叶子节点。以C4.5分类树为例，C4.5分类树在每次分枝时，是穷举每一个feature的每一个阈值，找到使得按照feat
凝眸伏笔·2019-03-20 11:23

学习《非暴力沟通》后，我变得更爱自己了

回归树根的部分，爱自己刷知乎后台的时候收到一个邀请回答，问在看过《非暴力沟通》后，你有哪些体会？其实我最初听到马歇尔·卢森堡《非暴力沟通》这本书，还是研究生时，一个同学极力在班级群里推荐我们读的。
幽燕·2019-03-15 11:06

机器学习之决策树

方法适用问题模型特点模型类别学习策略学习的损失函数学习算法决策树多类分类，回归分类树，回归树判别模型正则化的极大似然估计对数似然损失特征选择，生成，剪枝决策树优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感
明天也要加油鸭·2019-03-11 20:05

gbdt/回归树/xgboost（xgboost没看）

回归树一个例子：https://blog.csdn.net/weixin_40604987/article/details/79296427回归树和分类树类似，区别是分类树是选择一个特征的值进行划分，而回归树是选择一个特征的切分点进行划分
itsRae·2019-03-06 16:04

python实现CART回归树，参考机器学习实战

python实现CART回归树一、二分化数据集二、进行最优划分（选择最优特征及最优切分点）三、递归构造树一、二分化数据集defbinSplitDataSet(dataSet,feature,value)
Laurel1115·2019-03-04 15:14

Python机器学习笔记：XgBoost算法

而所用到的树模型则是CART回归树模型。Xgboost是在GBDT的基础上进行改进，使之更强大，适用于更大范围。Xgboost一般和sklearn一起使用，但是由于
战争热诚·2019-03-04 10:00

决策树CART算法原理的理解

决策树CART算法原理理解一、CART回归决策树算法原理（一）、回归树的生成最优特征及最优切分点的选择（二）、最小二乘回归树生成算法二、CART分类树算法原理（一）、分类树的生成最优特征及最优切分点的选择
Laurel1115·2019-03-03 20:54

【机器学习实战】回归决策树

以下通过例子对最小二乘回归树进行简单粗暴的讲解。示例数据集.png1.选择最优切分变量j与最优切分点s在本数据集中，只有一个变量，因此最优切分变量自然是x。
吵吵人·2019-03-02 12:31

【机器学习算法】决策树模型ID3、C4.5、CART

文章目录信息熵条件熵信息增益信息增益比ID3算法C4.5算法决策树的剪枝最小二乘回归树基尼指数CART决策树CART剪枝  决策树是一种符合人类直观感觉的模型，比如有一棵决策树如下：  上图是某女青年在决定相亲对象是时会进行的一系列决策过程
Mankind_萌凯·2019-02-22 21:05

回归树学习小记 RegressionTree

不管是分类树还是回归树，首先要明确的是，他们使用的特征即可是连续的也可以是离散的，label是连续值还是类别决定了决策树是分类树还是回归树。下面是李航的统计学习方法中给出的CART回归树的算法。
很吵请安青争·2019-02-22 15:24

机器学习知识点总结 - xgboost, GBDT

CART是分类与回归树（ClassificationandRegressionTrees），是决策树的一种，
RaymondLove~·2019-02-16 00:00

决策树(decision tree)

文章目录决策树(decisiontree)决策树模型特征选择信息增益信息增益比ID3决策树生成算法算法流程C4.5决策树生成算法决策树剪枝算法流程CARTCART回归树生成算法流程CART分类树生成算法流程
Leon_winter·2019-02-06 21:54

机器学习算法梳理(五)：GBDT梯度提升树

GBDT也是迭代，使用了前向分布算法，但是弱学习器限定了只能使用CART回归树模型，同时迭代思路和Adaboost也有所不同。GBDT思想在G
devcy·2019-01-29 21:53

个推教程--第七课--浅层排序模型gbdt

gbdt和xgboost的详细介绍：https://wenku.baidu.com/view/44778c9c312b3169a551a460.html回归树就是把连续取值区间分箱，叶子节点为一个个小的取值区间基尼指数与熵的定义不同
Walter_Silva·2019-01-12 16:35

机器学习算法梳理(三)：决策树

决策树梳理决策树梳理一、信息论基础二、决策树的不同分类算法三、回归树原理四、决策树防止过拟合手段五、模型评估六、sklearn参数详解，Python绘制决策树决策树梳理一、信息论基础熵是用来衡量一个系统混论程度的物理量
devcy·2019-01-08 22:25

决策树算法梳理

目录1.信息论基础（熵联合熵条件熵信息增益基尼不纯度）2.决策树的不同分类算法（ID3算法、C4.5、CART分类树）的原理及应用场景3.回归树原理4.决策树防止过拟合手段5.模型评估6.sklearn
yxyibb·2019-01-08 21:10

算法梳理之XGB

CART算法既可以用于创建分类树，也可以用于创建回归树。两者在建树的过程稍有差异。创建分类树的递归过程中：CAR
dzysunshine·2019-01-08 13:38

GBDT 算法：原理篇

1、决策树的分类决策树分为两大类，分类树和回归树。
腾讯云加社区·2019-01-03 00:00

XGB算法梳理

顾名思义，CART算法既可以用于创建分类树（ClassificationTree），也可以用于创建回归树（RegressionTree）、模型树（ModelTree），两者在建树的过程稍有差异。创
方糖_Sugar·2018-12-24 15:00
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他