回归树

【算法梳理Task2】GBDT算法梳理

弱学习器限定了只能使用CART回归树模型，迭代是思路是：在本轮迭代中找到一个CART回归树模型的弱学习器使得本轮的损失函数最小。即拟合误差。
诈胡艺术·2018-12-21 15:06

再谈XGBoost原理

分类树决策树的分类算法有很多，以具有最大熵的特征进行分类，以信息增益特征进行分类（ID3），以增益率特征进行分类（C4.5），以基尼系数特征进行分类（CART分类与回归树）等等。
necther·2018-12-12 09:31

机器学习——决策树（ID3、C4.5、CART）

决策树的缺点C4.5决策树（分类树）选择划分特征的指标——增益率CART决策树（分类树）度量样本集合纯度的指标——基尼值选择划分特征的指标——基尼指数为什么选择基尼指数分类树的构建过程CART决策树（回归树
菜到怀疑人生·2018-12-09 19:30

机器学习算法——决策树

算法的不足3.决策树C4.5算法3.1C4.5算法原理3.2C4.5算法的不足4.CART分类树算法5.CART分类树算法对于连续特征和离散特征处理的改进6.CART分类树建立算法的具体流程7.CART回归树建立算法
黑桃5200·2018-12-05 11:50

树模型几个知识点

CART既能处理分类问题，又能处理回归问题CART分割点的选择粒度更细，根据GINI系数，选择某个特征的某个值作为分割点（分为等于该值和不等于该值的二叉树）分类树的叶子节点类别是由数量最多的种类决定的；回归树的叶子结点值是由属于该
OliverChrist·2018-12-04 16:04

【机器学习模型详细推导4】-决策树

决策树一.决策树介绍二.ID3/C4.5三.CART算法1、最小二乘回归树生成算法2、CART分类树3、CART剪枝一.决策树介绍模型：一个树形的判断结构，内部结点表示特征或属性，叶子节点表示一个分类如何学习一个决策树
阿凯就好·2018-11-22 20:52

决策树算法实现（以ID3为例）

编写决策树之前首先需要明确决策树的结构特点：1、叶子节点是样本（用这类样本计算标签值，回归树用这个单元中的样本计算输出值，然后联合多个单元中的输出值和权重计算总的回归值）2、非叶节点是数据
david_hnu·2018-11-20 12:07

机器学习实战书籍和代码分享 | 【PCA简介】

本书第一部分主要介绍机器学习基础，以及如何利用算法进行分类，并逐步介绍了多种经典的监督学习算法，如k近邻算法、朴素贝叶斯算法、Logistic回归算法、支持向量机、AdaBoost集成方法、基于树的回归算法和分类回归树
flyfor2013·2018-11-12 10:00

机器学习实战书籍和代码分享 | 【PCA简介】

本书第一部分主要介绍机器学习基础，以及如何利用算法进行分类，并逐步介绍了多种经典的监督学习算法，如k近邻算法、朴素贝叶斯算法、Logistic回归算法、支持向量机、AdaBoost集成方法、基于树的回归算法和分类回归树
AI_study_NO1·2018-11-12 10:26

sklearn:渐变Boosting回归

此示例适用于具有最小平方损失的梯度增强模型和深度为4的500个回归树。
颠沛的小丸子·2018-11-06 20:48

sklearn:渐变Boosting回归

此示例适用于具有最小平方损失的梯度增强模型和深度为4的500个回归树。
颠沛的小丸子·2018-11-06 20:48

xgboost原理详解

、优化方法（梯度下降，牛顿法，拟牛顿等等）3、回归树与GBDT4、思想（GBDT的一种）：xgboost发展脉络整体认识和原理，自己的理解。更好的调参？
meihao5·2018-11-06 15:24

【机器学习笔记27】CART算法-回归树和分类树

算法【2】http://scikit-learn.org/stable/modules/generated/sklearn.tree.DecisionTreeRegressor.html基本概念分类和回归树
FredricXU·2018-11-04 09:32

XGBoost应用于“时间序列预测问题”实战与疑问（包含dump model的booster分析）

文章目录使用源码参考博文（有思考）1.概述（摘录与理解）2.XGBoost建树的过程3.XGBoost目标函数以及lossfunction的构建4.XGBoost论文的创新点在构建回归树的解释5.XGBoost
Thomas_Cai·2018-10-19 16:54

随机森林 vs GBDT

其输出的类别由各个树投票而定（如果是回归树则取平均）。
dl_007·2018-10-12 21:22

XGBoost论文阅毕

一、简要介绍1、模型提升树（Boostedtree）最基本的组成部分叫做回归树(regressiontree)，称为CART。
kewlgrl·2018-10-01 23:21

机器学习算法——回归算法总结（一）

1.线性回归2.局部加权回归3.岭回归4.Lasso回归5.CART回归树一线性回归：线性回归是一类重要的回归问题，在线性回归中，目标值和特征之间存在线性相关的关系1基本的线性回归线性回归
qq_16608563·2018-09-19 17:02

深入理解机器学习——基于决策树的模型（一）：分类树和回归树

分类目录：《深入理解机器学习》总目录相关文章：基于决策树的模型（一）分类树和回归树基于树的模型（二）：集成学习之Bagging和RandomForest基于树的模型（三）：集成学习之GBDT和XGBoost
洪远·2018-09-17 09:47

GBDT回归的原理及Python实现

1.1温故知新回归树是GBDT的基础，之前的一篇文章曾经讲过回归树的原理和实现。链接如下：回归树的原理及Python实现1.2预测年龄仍然以预测同事年龄来举例，从《回归树》
Python中文社区·2018-09-11 21:29

回归树的原理及Python实现

提到回归树，相信大家应该都不会觉得陌生（不陌生你点进来干嘛[捂脸]），大名鼎鼎的GBDT算法就是用回归树组合而成的。本文就回归树的基本原理进行讲解，并手把手、肩并肩地带您实现这一算法。
Python中文社区·2018-09-07 23:02

提升树boosting tree模型

1、提升树的定义提升树是以分类树或者回归树为基本分类器的提升方法。
HawardScut·2018-09-06 20:14

机器学习基础学习－－决策树

决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。决策树分类器就像判断模块和终止块组成的流程图，终止块表示分类结果（也就是树的叶子）。
雪泪寒飞起来·2018-09-03 22:33

机器学习算法总结（三）

决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。
Jorocco·2018-08-30 21:30

GBDT

GBDT的两个不同版本（重要）残差版本把GBDT说成一个残差迭代树，认为每一棵回归树都在学习前N-1棵树的残差。
运猫·2018-08-30 14:12

三张简图搞懂GBDT

下面我们先了解什么是提升树都知道，在每个基分类器（CART树）生成的过程，有一个最小化损失函数的步骤，那么对于回归树来说，当我们使用的损失函数是平方损失误差的话，来看看是什么情况：（注意图片上的标注红字
accumulate_zhang·2018-08-29 10:28

《机器学习实战》第九章 解决python3运行代码出现的BUG问题

参靠博文1参考博文2在学习到《机器学习实战》第九章（回归树）的时候遇到的几个报错的解决方案归总：Bug1.TypeError:unsupportedoperandtype(s)for/:‘map’and
HAH-M·2018-08-27 11:06

决策树—回归

回归树就是将特征空间划分成若干单元，每一个划分单元有一个特定的输出。因为每个结点都是“是”和“否”的判断，所以划分
归去_来兮·2018-08-20 11:30

李航的十种统计学习方法总结

回归特征空间、样本点判别模型K-NN不具有显式的学习过程朴素贝叶斯法多分类特征与类别的联合概率分布、条件独立假设生成模型极大似然估计、极大后验估计对数似然损失概率计算公式、EM算法决策树多分类、回归分类树、回归树判别模型正
GladyoUcaMe·2018-08-13 23:45

CART回归树原理及示例

转载：https://cethik.vip/2016/09/21/machineCAST/一、概念CART全称叫ClassificationandRegressionTree。首先要强调的是CART假设决策树是二叉树，内部结点特征的取值只有“是”和“否”，左分支是取值为“是”的分支，有分支则相反。这样的决策树等价于递归地二分每个特征。二、CART生成决策树的生成就是递归地构建二叉决策树的过程，对回
SKY.AI·2018-08-11 16:20

机器学习————决策树（二）

分类与回归树（classificationandregressiontree，CART）模型是应用广泛的决策树的学习方法，CART作为决策树的一种放啊放同样由特征选择、树的生成和剪枝构成，既可以用于分类问题也可以用于回归问题
coder_Gray·2018-08-09 15:48

机器学习————决策树（二）

分类与回归树（classificationandregressiontree，CART）模型是应用广泛的决策树的学习方法，CART作为决策树的一种放啊放同样由特征选择、树的生成和剪枝构成，既可以用于分类问题也可以用于回归问题
coder_Gray·2018-08-09 15:48

一文读懂机器学习大杀器XGBoost原理

而所用到的树模型则是CART回归树模型。讲解其原理前，先讲解一下CART回归树。一、CART回归树CART回归树是假设树为二叉树，通过不断将特征进行分裂。比如当前树结点是基于第j个特征
磐创 AI·2018-07-19 18:51

提升树与梯度提升树 Boosting Tree & Gradient Boosting Decision Tree(GBDT)

提升树对分类问题，提升树是二叉分类树，对回归问题提升树是二叉回归树。
白水你一定要努力啊·2018-07-14 13:44

RF和GBDT和Xgboost的异同总结，加上lightgbm

相同点（照顾标题）：都用到了Bootstrap思想，Bootstrap是一种有放回的抽样方法思想不同点：基类器：RF用的回归树或者分类树，GBDT和xgboost用的是CART(回归树)分裂节点：RF：
asdasdasdasasd1111·2018-07-01 20:38

随机森林与GBDT

相同点：都是由多棵树组成；最终结果都是由多棵树共同决定；不同点：随机森林可以是分类树也可以是回归树；GBDT只能是回归树；随机森林对异常值不敏感，而GBDT对异常值很敏感；随机森林对训练集一视同仁，GBDT
大海之中·2018-06-28 19:20

基于pyhton3.6-机器学习实战-回归树regTrees代码解释

本人是一名数学系研究生，于2017年底第一次接触python和机器学习，作为一名新手，欢迎与大家交流。我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，理论大部分都讲得很细。博客上关于机器学习实战理论解释都很多，参差不齐，好作品也大都借鉴了以上3本
Lelouc_CC·2018-06-25 17:09

分类回归树什么时候不能反映数据的真实趋势

本质上lightgbm和xgboost都是基于分类回归树集成的学习算法，所以他们也会有一些先天缺陷：当训练数据的特征都集中在一个区间内，而测试数据偏离该区间较大时会出现不能拟合的情况，根本原因是因为分类回归树对于某一个叶子节点上的数据的目标值是采取该叶子节点的目标值均值做梯度提升最终确定预测值的
necther·2018-06-24 09:09

对xgboost和lightgbm的理解及其调参应该关注的点

这两个算法都是集成学习了分类回归树模型，先讨论是怎么集成的。
necther·2018-06-22 11:55

机器学习之树回归（CART算法）

机器学习之树回归1、分类树回归模型介绍2、模型数学原理3、算法及python实现4、小结1、分类回归树模型介绍前面介绍了使用ID3算法进行决策树分类的模型，ID3算法的做法是每次选取当前最佳的特征来分割数据
CV探索者·2018-06-20 17:40

4.3.1有监督学习（二） - 决策树（Decision Tree） - 构建树的核心指标

决策树的算法多见于分类问题中，即我们常说的分类树（ClassificationTree）；少数情况下，决策树也可以用于连续问题，即回归树（RegressionTree）。
Orange_Spotty_Cat·2018-06-15 13:09

机器学习之GBDT、XGBoost

GBDT对弱学习器的要求是要足够简单，即低方差&高偏差，一般深度不会超过5，叶子节点的数量也不会超过10，默认选择CART回归树。注意GBDT中
liuy9803·2018-06-10 12:31

使用 python 手写 决策树

我今天打算手写一个决策树，或者说是“分类回归树”。
CY_TEC·2018-06-08 18:36

决策树CART，ID3，C4.5

CART算法CART分类回归树，离散变量和连续变量均可处理。采用基尼指数较小的特征作为分类标准。既可以用于分类也可以用于回归。二叉树，采用二元切分法，每次把数据分成两份，分别进入左子树和右子树。
lijianping962464·2018-06-05 09:41

基于随机森林的分类与回归

随机森林算法(预测和回归)主要包括一下三个方面：1.从原始数据随机有放回的抽取N个样本单元，生成决策或者回归树。2.在每一个节点随机抽取m
算法与数学之美·2018-05-23 21:02

学习笔记：用回归树预测波士顿房价

422018@author:eagle"""#=============================================================================#回归树预测波士顿房价
HorseRunningNoStop·2018-05-22 10:37

随机森林（RF）详解

它的组成是由多个弱学习器组成，CART（分类回归树）。RF的生成过程是由一个到多个CART的生成构成。
ch0831·2018-05-21 09:22

机器学习算法岗常见笔试面试题整理

Boost算法CART（回归树用平方误差最小化准则，分类树用基尼指数最小化准则）GBDT与随机森林算法的原理以及区别。优化算法中常遇到的KKT条件？作用是？
DemonHunter211·2018-05-11 14:26

机器学习算法岗常见笔试面试题整理

Boost算法CART（回归树用平方误差最小化准则，分类树用基尼指数最小化准则）GBDT与随机森林算法的原理以及区别。优化算法中常遇到的KKT条件？作用是？
猪猪会飞·2018-05-10 11:29

《机器学习实战》第九章学习笔记（分类树回归CART）

一、CART(ClassificationAndRegressionTree)CART算法既可以用于分类还可以用于回归，CART树的生成就是递归构建二叉决策树的过程，对于回归树用平方误差最小化准则，对于分类树用基尼指数
LZH_12345·2018-05-08 00:00

CART之回归树python代码实现

一、CART(ClassificationAndRegressionTree)分类回归树1、基尼指数：在分类问题中，假设有KK个类，样本点属于第kk类的概率为PkPk，则概率分布的基尼指数定义为：Gini
Alice20171215·2018-04-19 12:14
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他