CRAT回归树

ID3、C4.5、CART决策树生成算法总结

树模型通常分为分类树和回归树。分类树主要针对目标变量是离散变量（一般是二元变量）的情形，回归树针对目标变量是连续变量的情
HaloZhang·2021-12-07 10:38

Python实现CART决策树算法及详细注释

决策树算法简介二、基尼系数三、CART决策树生成算法四、CART算法的Python实现五、运行结果一、CART决策树算法简介CART（ClassificationAndRegressionTrees分类回归树
·2021-10-29 10:09

Python机器学习入门(五)之Python算法审查

目录1.审查分类算法1.1线性算法审查1.1.1逻辑回归1.1.2线性判别分析1.2非线性算法审查1.2.1K近邻算法1.2.2贝叶斯分类器1.2.3分类与回归树1.2.4支持向量机2.审查回归算法2.1
·2021-08-27 17:20

决策树

是机器学习算法中一种依靠对条件进行判断来进行分类(针对离散数据生成分类树)和回归(针对连续数据生成回归树)的算法。是直观运用概率分析的一种图解法。
一只胖猪猪·2021-08-25 08:05

python机器学习：决策树详解

sklearn.tree2.2sklearn建模基本流程2.3决策树建模流程三、分类树3.1构造函数3.2建立分类树（测试Criterion）3.3确定最优剪枝参数：3.4查看决策树属性接口3.5代码示例四、回归树
ogr_mpwf·2021-07-17 15:14

CART树

CART（classificationandregressiontree）算法是分类回归树算法，它是决策树的一种实现。决策树一般有ID3,ID4.5和CART这三种算法。
NatsuYori·2021-06-13 19:42

第四章

决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。其中每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放在一个类别。
HXXHXX·2021-06-13 09:09

9. 分类算法-决策树、随机森林

最早的决策树就是利用这类结构来分类数据的一种分类学习方法决策树的划分依据之一：信息增益信息增益表示得知特征X的信息而使得类Y的信息的不确定性减少的程度常见决策树使用的算法•ID3信息增益最大的准则•C4.5信息增益比最大的准则•CART回归树
马路仔·2021-06-06 23:07

gbdt和随机森林的区别？

相同点：（1）都是由多棵树组成的，都是集成学习算法（2）最终的结果都是由多颗树一起决定不同点：(1)组成随机森林的树可以是分类树，也可以是回归树，但是GBDT只能由回归树组成。
快乐的小飞熊·2021-06-06 22:54

机器学习 day4 决策树应用，验证，调参；多种回归比较

Grid_Search利用分类器分类：2.随机森林测试不同深度该随机森林分类器的表现：交叉验证法利用网格搜索调参（比较耗时间，大概10分钟左右）：3.多种回归比较(boston数据集)待改进数据标准化，归一化回归树随机森林回归岭回归多项式回归
大地之灯·2021-06-04 09:19

使用scikit-learn构建模型——构建并评价回归模型

构建并评价回归模型使用sklearn估计器构建线性回归（LinearRegression）模型sklearn库内部有不少的回归算法：线性回归、非线性回归、Logistic回归、最近邻回归、回归决策树、随机森林回归、梯度回归树
Big-Winda·2021-05-25 21:55

xgboost slide（三）

这部分主要介绍GBDT以及XGBOOST这部分能学到的东西包括：（1）无所不在的偏差-方差平衡（2）目标函数：loss+正则的模式应用于回归树学习（3）我们既要预测还要简单的模型（4）定义了我们想要学习的
快乐的小飞熊·2021-05-18 22:58

GBDT

https://zhuanlan.zhihu.com/p/34679467RF和GBDT之间的区别分类回归并行串行异常值敏感（有无剪枝）表决方式方差偏差分类树和回归树的区别分裂方式xgboost和gbdt
Songger·2021-05-18 14:02

CART回归树python实现

importnumpyasnpdefreg_leaf(dataSet):"""生成叶子节点，返回这个叶子上样本标记的平均值"""returnnp.mean(dataSet[:,-1])defreg_err(dataSet):"""计算平方误差"""returnnp.var(dataSet[:,-1])*shape(dataSet)[0]defbin_split_data(dataSet,feat_
yxwithu·2021-05-15 15:00

R语言生态学建模：增强回归树（BRT）预测短鳍鳗生存分布和影响因素

p=22482原文出处：拓端数据部落公众号引言本文是一个简短的教程，在R中拟合BRT（提升回归树）模型。我们的目标是使BRT（提升回归树）模型应用于生态学数据，并解释结果。
拓端研究室·2021-05-13 18:11

机器学习_用树回归方法画股票趋势线

 本篇的主题是分段线性拟合，也叫回归树，是一种集成算法，它同时使用了决策和线性回归的原理，其中有两点不太容易理解，一个是决策树中熵的概念，一个是线性拟合时求参数的公式为什么是由矩阵乘法实现的。
xieyan0811·2021-05-05 15:35

数量生态学||多元回归树

多元回归树（MultivariateRegressionTrees，MRT）是单元回归树的拓展，是一种对一系列连续型变量递归划分成多个类群的聚类方法，是在决策树(decision-trees)基础上发展起来的一种较新的分类技术
周运来就是我·2021-05-02 12:32

随机森林01

RandomForestClassifier随机森林是非常具有代表性的Bagging集成算法，它的所有基评估器都是决策树，分类树组成的森林就叫做随机森林分类器，回归树所集成的森林就叫做随机森林回归器。
文子轩·2021-04-30 01:57

随机森林和决策树(DecisionTree & RandomForest )

决策树-基于CART的决策树CART分类回归树(classificationandregressiontree，CART)模型由Breiman等人在1984年提出，是应用广泛的决策树学习方法。
NullBugs·2021-04-29 23:37

机器学习（七）——LightGBM算法

2.4针对过拟合的参数调整3代码实践4参考主要为自己学习的笔记，如有错误请大家勘正1算法原理LightGBM也是像XGBoost一样，是一类集成算法，他跟XGBoost总体来说是一样的，同样使用了CART回归树
Kay_Xiaohe_He·2021-04-28 11:27

随机森林

1.1概述随机森林非常具有代表性的Bagging集成算法，是一个包含多棵决策树的评估器，分类数组成的森林就叫随机森林分类器，回归树所集成的森林就叫随机森林回归器。
诗云HSY·2021-04-18 07:03

关于树：决策树，回归树，梯度提升树，adaboost和随机森林

决策树从最简单的地方开始吧，决策树。前面随机森林的部分有写过，最简单的决策树就是从常人的思维方式产生的，拿比较接地气的例子来说，某人判断相亲对象是否应该再约的过程，就是一个典型的决策树：判断相亲对象的决策树某人会首先关注性别是否相同，同性当然就拜拜了，异性的话就先看看年龄，如果在20-30之间，就继续看看长相，如果年龄超过30岁，就直接问问收入，接着看看性格，学历，大概就知道自己喜不喜欢，要继续约
陈荣昌·2021-04-13 21:58

matlab使用分位数随机森林（QRF）回归树检测异常值

原文链接：http://tecdat.cn/?p=22160这个例子展示了如何使用分位数随机林来检测异常值。分位数随机林可以检测到与给定X的Y的条件分布有关的异常值。离群值是一些观测值，它的位置离数据集中的大多数其他观测值足够远，可以认为是异常的。离群观测的原因包括固有的变异性或测量误差。异常值显著影响估计和推断，因此检测它们决定是删除还是稳健分析非常重要。为了演示异常值检测，此示例：从具有异方差
·2021-04-12 16:55

matlab使用分位数随机森林（QRF）回归树检测异常值

原文链接：http://tecdat.cn/?p=22160这个例子展示了如何使用分位数随机林来检测异常值。分位数随机林可以检测到与给定X的Y的条件分布有关的异常值。离群值是一些观测值，它的位置离数据集中的大多数其他观测值足够远，可以认为是异常的。离群观测的原因包括固有的变异性或测量误差。异常值显著影响估计和推断，因此检测它们决定是删除还是稳健分析非常重要。为了演示异常值检测，此示例：从具有异方差
拓端研究室·2021-04-12 14:00

梯度提升决策树

另一种决策树集成的算法叫做梯度提升决策树GBDT，在GBDT中每棵树不是分类树，是回归树！所以我首先介绍下回归树的概念，其实回归树与分类树在流程上是差不多的，就好比南方人和
AI_Engine·2021-03-10 18:12

第二十课.CART

目录回归树的生成回归树的定义预测值的确定特征空间的划分算法流程分类树的生成分类树的对比总结基尼指数的计算算法流程CART剪枝ID3、C4.5剪枝的不足ID3、C4.5剪枝改进：CART剪枝CART剪枝的案例
tzc_fly·2021-02-16 01:34

决策树入门&案例：泰坦尼克号幸存者预测

决策树1概述1.1决策树是如何工作的1.2分类树DecisionTreeClassifier1.3回归树DecisionTreeRegressor1.4案例练习1.用回归树拟合正弦函数曲线#创建一个含有噪声的正弦曲线
avagogogo·2021-01-26 22:50

GBDT原理分析以及XGBoost代码实践

GBDT是以分类树或者回归树作为基本分类器的提升方法，它被认为是统计学习中性能最好的方法之一。在深度学习兴起和流行之前，GBDT是公认效果最出色的几个模型之一。
HaloZhang·2021-01-14 12:01

机器学习--决策树

文章目录决策树的思想分类树信息熵信息增熵基尼系数CART简单实现CART剪枝sklearn的分类树回归树CARTsklearn的回归树决策树的思想决策树的思想在现实中也非常常见，比如买一个东西，我们在想买或者不买
zipper112·2021-01-08 19:39

ML《集成学习（四）Boosting之回归树、提升树和GBDT》

GBDT中的树是回归树（不是分类树），GBDT用来做回归预测，调整后也可以用于分类。  GBDT的思想使其具有天然
星海千寻·2021-01-04 03:51

ML《集成学习（三）Boosting和Adaboosting回归树》

上一篇博文我们学习了adaboosting算法用于分类树的算法，今天想把adaboosting算法用于回归树的算法也补充下：这里我们学习的是adaboostingR2算法：存在样本集D={(x1,y1)
星海千寻·2021-01-04 02:17

ML《决策树（三）CART》

从名字上也能看出来，它是分类和回归树。本文参考以及采用了很多其他博主的文字，因为自己觉得他们写的很好，自己做了归纳和整理，汲取百家之长。
星海千寻·2020-12-30 06:26

python随机森林筛选变量_用随机森林分类器和GBDT进行特征筛选

一、决策树(类型、节点特征选择的算法原理、优缺点、随机森林算法产生的背景)1、分类树和回归树由目标变量是离散的还是连续的来决定的；目标变量是离散的，选择分类树；反之(目标变量是连续的，但自变量可以是分类的或数值的
weixin_39863008·2020-12-11 00:15

李航《统计学习方法》第2版 第5章课后习题答案

习题5.1题目：根据表5.1所给的训练数据集，利用信息增益比（C4.5算法）生成决策树.习题5.2题目：已知下表所示的训练数据，试用平方误差损失准则生成一个二叉回归树."""
#苦行僧·2020-11-12 23:39

【机器学习】集成算法——Boosting中的AdaBoost算法原理及sklearn应用

另外要注意：随机森林的基评估器必定是决策树，可以是回归树也可以是分类树。
Miki_onlyone·2020-10-13 13:12

【机器学习15】决策树模型详解

决策树算法前言一、决策树的概述二、熵的作用三、决策树构造实例四、信息增益率和gini系数五、剪枝方法六、分类、回归任务七、树模型的可视化展示八、决策边界展示分析九、决策树预剪枝常用参数十、回归树模型总结手动反爬虫
Be_melting·2020-09-19 20:26

传统机器学习优秀文章收集

万字长文总结机器学习的模型评估与调参使用python+sklearn实现mean-shift聚类算法的演示使用python+sklearn实现谱共聚类算法对文档进行聚类动手学机器学习之回归树机器学习算法集锦
wxl@&&·2020-09-17 00:05

决策树算法原理及调参

决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。
thxiong1234·2020-09-16 22:35

Learn: OverfittingAndUnderfitting、一种缓解方式之决策回归树中设置max_leaf_nodes

过拟合、欠拟合以决策树为例，来说。dataset被划分到叶子，树太浅，假如数据集仅被split成了2个groups（划分的粒度特粗），每个group里必然特别多的houses。如果树特别地深，假如数据集被split成了1024个groups（划分的粒度特粗），叶子特别多，每个叶子上的houses则特别地少。简单说，树太deep，易发生过拟合。树太shallow，易发生欠拟合。Overfitting
pingzishinee·2020-09-16 19:52

浅谈决策树，RF和GBDT

决策树：决策树可分为分类树和回归树.ID3，C45是经典的分类模型，可二分类，多分类。它是通过挑选对整体区分度较大的属性，朝着混乱程度减小的方向，迭代建立的过程。
weixin_30897079·2020-09-15 20:12

回归树-----生成回归树

当数据拥有众多属性并且属性间关系复杂时，前面所讲的回归算法就显得太难了。今天我们就讨论一种树型的回归算法。前面讲过一个树，叫做决策树，构建决策树时需要利用信息增益来计算出最佳的分类特征然后不断的从剩余的特征中找出最佳的分类特征进行分类，这种方法叫做ID3.今天我们构建树所用的切分数据的方法有所不同，用的是二分法。其主体思想也是找到最佳的分类特征：ex00.txt（提取码：b416）fromnump
爱哭的猫ff·2020-09-15 18:49

树回归算法个人总结

复杂数据的局部性建模分类回归树（CART）是一种树构建方法。该方法既可
架良·2020-09-15 18:40

各种树模型细节比较（分类树，回归树，随机森林，gbdt, xgboost）

前言树模型实在是个庞大的家族，里面有许多细节值得注意，怕自己遗忘，写一期总结方便以后查询。先介绍三种划分方式：信息增益：计算数据集D中的经验熵H(D)：计算特征A对数据集D的经验条件H（D/A）:计算休息增益差：其中D为样本容量,pi代表当前节点D中i类样本比例。设有K个类（1,2,…,K）,Ck为属于为K类样本的样本数。设特征A有j个不同的取值（a1,…,aj）,根据A的取值将D划分为D1,…,
Lingerzxx·2020-09-15 18:24

机器学习-决策树之回归树案例（泰克尼克号）

一、决策树之回归树案例1.导入相关库importpandasaspdfromsklearn.treeimportDecisionTreeClassifierimportmatplotlib.pyplotaspltfromsklearn.model_selectionimportGridSearchCVfromsklearn.model_selectionimporttrain_test_split
下雨天再见·2020-09-15 18:36

最小二乘回归树Python实现——统计学习方法第五章课后题

李航博士《统计学习方法》第五章第二题，试用平方误差准则生成一个二叉回归树。
vivian_ll·2020-09-15 18:36

xgboost ppt（2）——回归树和组合

回归树（cart）1、回归树（也可以叫做分类回归树），加入gbdt是回归树，但是根据最终的回归结果给一个阈值，也可以做分类。（1）与决策树的决策规则是一样的。
letflyFYF·2020-09-15 18:39

转载——Regression Tree 回归树

本文转载于“一个拉风的名字”的“RegressionTree回归树”1.引言AI时代，机器学习算法成为了研究、应用的热点。
远方与你·2020-09-15 17:48

回归树与基于规则的模型(part2)--简单回归树

学习笔记，仅供参考，有错必纠回归树与基于规则的模型简单回归树简单回归树将数据划分为若干组，其中组内的样本点在结果变量取值上具有一定的同质性。
安财小山羊·2020-09-15 17:31

回归树算法原理

已经有博主详细讲解了，不再赘述。[https://blog.csdn.net/weixin_40604987/article/details/79296427#commentBox]
巴顿庄园·2020-09-15 17:57

机器学习算法之CART（分类和回归树）

CART算法介绍：分类和回归树（CART）是应用广泛的决策树学习方法。CART同样由特征选择，树的生成和减枝组成，既可以用于分类也可以用于回归。CART的生成就是递归的构建二叉决策树的过程。
chenbinbin·2020-09-15 17:45
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他