GBDT 第2页

机器学习算法学习-梯度提升树（GBDT）

1.算法GBDT(GradientBoostingDecisionTree)，梯度提升树，是属于集成算法中boosting类的一种算法。这个算法是现有机器学习算法中相对较实用的算法。

Kiroro·2024-01-07 13:50

AI技术体系和领域浅总结

离散数学》博弈论《博弈论》（中国人民大学出版社）张量分析现代几何计算机基础计算机原理程序设计语言操作系统分布式系统算法基础机器学习算法机器学习基础（估计方法特征工程）线性模型（线性回归）逻辑回归决策树模型（GBDT

TisUs·2024-01-06 16:26

GBDT、XGBoost、LightGBM的区别与联系

GBDT(GradientBoostingDecisionTree)是机器学习中一个经典的模型，其主要思想是利用弱分类器（决策树）迭代训练以得到最优模型，该模型具有训练效果好、不易过拟合等优点。

徐卜灵·2024-01-05 19:32

机器学习基础面试点

来源：https://zhuanlan.zhihu.com/p/82105066一.常见手推公式部分1.1LR手推、求导、梯度更新1.2SVM原形式、对偶形式1.3FM公式推导1.4GBDT手推1.5XGB

mylaf·2024-01-03 05:07

GBDT+LR CTR预估-Kaggle实例[有数据集]

路人乙yh·2024-01-02 20:22

机器学习基础--各种学习方式（5）--自动特征工程

自动特征工程自动工程的三个方向，隐式特征组合（如NN，FM），半显式特征组合（如GBDT）与显式特征组合（显式特征叉乘）。

whitenightwu·2024-01-01 08:22

GBDT-代码

sklearn代码classsklearn.ensemble.GradientBoostingClassifier(*,loss=‘deviance’,learning_rate=0.1,n_estimators=100,subsample=1.0,criterion=‘friedman_mse’,min_samples_split=2,min_samples_leaf=1,min_weight_

金鸡湖最后的张万森·2023-12-31 23:54

GBDT-梯度提升决策树

梯度提升决策树（GradientBoostingDecisionTree,GBDT）是一种基于boosting集成学习思想的加法模型，训练时采用前向分布算法进行贪婪学习，每次迭代都学习一棵CART树来拟合之前

沉住气CD·2023-12-21 02:33

社交网络分析4（下）：社交网络链路预测分析、LightGBM框架、LLSLP方法（LightGBM 堆叠链路预测）、堆叠泛化、社交网络链路预测分析的挑战

社交网络分析4写在最前面LightGBMLightGBM简介GBDT的核心概念和应用LightGBM的特点LightGBM与GBDT的比较LightGBM的原理与技术GBDT的传统算法LightGBM的创新算法

是Yu欸·2023-12-19 15:44

notes2

机器学习ROC曲线、AUC、PR曲线等决策树，ID3、C4.5、CART决策树，随机森林、Adaboost、GBDT决策树，XGBoost、LightGBM逻辑回归，L1L2正则化熵，KL散度，交叉熵micro-f1

lym94·2023-12-18 14:53

GBDT算法原理以及实例理解

转载自：GBDT算法原理以及实例理解（含Python代码简单实现版）-CSDN博客一、算法简介：GBDT的全称是GradientBoostingDecisionTree，梯度提升树，在传统机器学习算法中

DJ.马·2023-12-18 06:10

xgboost机器学习算法通俗理解

本算法是GBDT的一种可以通过两个生活中的例子来了解xgboost其思想：XGBoost（eXtremeGradientBoosting）是一种基于梯度提升决策树（GradientBoostingDecisionTree

DJ.马·2023-12-18 06:39

GEE机器学习——利用梯度决策树Gradient Tree Boost 方法（GBDT/GBRT）进行土地分类和精度测试

GradientTreeBoost方法的具体介绍梯度提升树（GradientTreeBoost）是一种集成学习方法，通过串行训练多个决策树来解决回归和分类问题。它通过迭代的方式不断优化模型预测结果，使得每一棵树能够纠正前一棵树的预测误差。GradientTreeBoost方法的具体步骤如下：1.数据准备：收集并准备用于训练的数据集，确保数据集包含标记好的样本点。2.初始化模型：将初始模型设置为一个

此星光明·2023-12-16 18:45

算法工程师-机器学习面试题总结(8)

目录1.Xgboost和GBDT有什么异同？优点是什么？2.为什么xgboost训练会那么快，主要优化点是什么？3.xgboost是如何处理缺失值的？

学术菜鸟小晨·2023-12-16 15:34

2023阿里智能互联算法工程师机器学习一面

来源：投稿作者：LSC编辑：学姐电话面，时长1.5h1.详细介绍实习项目2.介绍决策树和gbdt以及它们之间的关系决策树可以被看作是GBDT中的基本学习器之一。

深度之眼·2023-12-14 22:05

分类树模型的特征选择

对于决策树模型（包括基于决策树的RF和GBDT），都有如下函数：dt=DecisionTreeClassifier()dt.feature_importances_feature_importances

王金松·2023-12-06 11:06

各种boost全梳理，一文搞定boosting模型

下列的这些算法就是常见的Boosting算法：AdaBoost、GBDT、XGBoost、LightGBM和C

lucifer777·2023-11-30 07:29

决策树可视化，被惊艳到了！

目前无论是机器学习竞赛还是工业界,最流行、应用最广泛的xgboost其实是优化后的GBDT（LightGBM里面的boosting比较经典稳定的也是GBDT哦！）

Wang_AI·2023-11-30 00:59

All About Interview - Day 2

RF、GBDT和XGBoost都属于集成学习（EnsembleLearning），集成学习的目的是通过结合多个基学习器的预测结果来改善单个学习器的泛化能力和鲁棒性。

认真学习的兔子·2023-11-29 21:37

58同城算法工程师一面＆二面面试题

来源：投稿作者：LSC编辑：学姐一面40min1.Gbdt和xgboost的区别XGBoost是对GBDT的改进和扩展，它提供了更高的效率、更好的性能、正则化技术、内置特征选择等功能。

深度之眼·2023-11-26 23:29

【面经&八股】搜广推方向：常见面试题（一）

2.XGBoost和GBDT是什么？有什么区别？3.偏差与方差。延伸知识（集成学习的三种方式:Bagging、Boosting、Stacking）。4.随机森林是什么？

笃℃·2023-11-26 21:08

深度 | 蚂蚁金服DASFAA论文带你深入了解GBDT模型

小蚂蚁说：2018年5月21日，国际顶级数据库会议DASFAA2018（InternationalConferenceonDatabaseSystemsforAdvancedApplications）在澳大利亚黄金海岸举办。本文是蚂蚁金服录用于DASFAA的论文UnpackLocalModelInterpretationforGBDT（作者：方文静、周俊、李小龙、朱其立）的简要介绍。我有几张阿里云

煊琰·2023-11-23 20:55

【自学】Decision Tree、Random Forest、GBDT、XGBoost

等等很简单（b站）3、白手起家的百万富翁（b站）目录一、DecisionTree（决策树）1.1什么是决策树1.2决策树建立过程1.3回归决策树二、RandomForest（随机森林）2.1什么是随机森林三、GBDT

Miracle.W·2023-11-19 12:15

阿里云——算法面经

目录一面二面三面四面五面一面自我介绍讲项目，结合项目问问题数据的特征选择数据有噪声怎么办决策树、RM、GBDT、XGBoost（包括剪枝，预剪枝后剪枝好处坏处）lr到lr的损失函数深度学习防过拟合措施几种激活函数几种优化器

fpga和matlab·2023-11-15 17:31

决策树的Boosting策略是什么

在决策树的Boosting策略中，最常见的算法是梯度提升决策树（GradientBoostingDecisionTrees，简称GBDT）。

温柔的行子·2023-11-15 17:19

18. 机器学习——集成学习

机器学习面试题汇总与解析——集成学习本章讲解知识点什么是集成学习AdaBoost梯度提升树(GradientBoostingDecisionTree,GBDT)随机森林(RandomForest，简称RF

qq_32468785·2023-11-13 14:28

【读书笔记-＞推荐系统】02-01 协同过滤

CF)、逻辑回归(LogisticRegression,LR),进化到因子分解机（FactorizationMachine,FM)、梯度提升树（GradientBoostingDecisionTree,GBDT

小明2766·2023-11-13 01:44

GBDT减少模型偏差、随机森林减小模型方差

1、Adaboost算法原理，优缺点：理论上任何学习器都可以用于Adaboost.但一般来说，使用最广泛的Adaboost弱学习器是决策树和神经网络。对于决策树，Adaboost分类用了CART分类树，而Adaboost回归用了CART回归树。Adaboost算法可以简述为三个步骤：(1)首先，是初始化训练数据的权值分布D1。假设有N个训练样本数据，则每一个训练样本最开始时，都被赋予相同的权值：w

cuisidong1997·2023-11-12 13:59

天池_龙珠_机器学习训练营学习笔记3

一、LightGBM介绍LightGBM是2017年由微软推出的可扩展机器学习系统，它是一款基于GBDT（梯度提升决策树）算法的分布式梯度提升框架，为了满足缩短模型计算时间的需求，LightGBM的设计思路主要集中在减小数据对内存与计算性能的使用

大摆鹅_Big Data·2023-11-12 09:06

【机器学习】集成学习代码练习（随机森林、GBDT、XGBoost、LightGBM等）

本文是中国大学慕课《机器学习》的“集成学习”章节的课后代码。课程地址：https://www.icourse163.org/course/WZU-1464096179课程完整代码：https://github.com/fengdu78/WZU-machine-learning-course代码修改并注释：黄海广，[email protected] warningswarni

风度78·2023-11-12 02:18

最详细的LightGBM参数介绍与深入分析

您有：GBDT、DA

倾城一少·2023-11-11 02:28

收藏 | 机器学习模型与算法最全分类汇总！

包括线性回归、逻辑回归、Lasso回归、Ridge回归、线性判别分析、近邻、决策树、感知机、神经网络、支持向量机、AdaBoost、GBDT、XGBoost、LightGBM、CatBoost、随机森林

louwill12·2023-11-10 15:12

干货| 机器学习模型与算法最全分类汇总！

包括：线性回归、逻辑回归、Lasso回归、Ridge回归、线性判别分析K近邻、决策树、感知机、神经网络、支持向量机AdaBoost、GBDT、XGBoost、LightGBM、CatBoost、随机森林聚类算法与

Python数据之道·2023-11-08 07:02

决策树- 随机森林/GBDT/XGBoost

转载：决策树-随机森林/GBDT/XGBoostBagging:各分类器之间没有依赖关系，可各自并行，Bagging+决策树=随机森林Boosting:各分类器之间有依赖关系，必须串行，比如Adaboost

weixin_50304531·2023-10-31 23:18

20181125 XGBoost 学习笔记

2.xgboostvsgbdt说到xgboost，不得不说gbdt。

dichu8371·2023-10-31 20:56

python机器学习——xgboost简介

xgboost简介（1）背景（2）什么是XGBoost（3）为什么要用XGBoost（4）XGBoost相比传统gbdt有何不同？xgboost为什么快？xgboost如何支持并行？

曹文杰1519030112·2023-10-30 09:17

机器学习算法实习面经（阿里一面+GrowingIO两面）

先是一个简单的自我介绍；1.然后介绍了项目的框架和主要创新点；2.说一下随机森林和Adaboost，以及区别3.说一下GBDT和Adaboost，以及区别4.你用到了LDA说一下LDA的原理5.对于PCA

李德洋·2023-10-29 00:21

【ML】cheatsheet

LR原理与面试题目DT,Adaboost,GBDT,xgboost原理细节与例子https://www.cnblogs.com/createMoMo/p/12635709.htmlxgboost挺详细的算法原理与例子

xzen·2023-10-25 02:10

spark-技术链接

GBDT原理及利用GBDT构造新的特征-Python实现https://blog.csdn.net/shine19930820/article/details/71713680https://github.com

felixanna·2023-10-24 18:30

机器学习的平台化发展趋势

例如在模型方面，经过实践检验过的模型基本还是LR和GBDT，以及这两者的一些变种和结合，例如FM、LR+GBDT等等；再例如在特征处理方面，常用的包括离散化、归一化、平滑等等。

musicml·2023-10-23 11:41

机器学习之GBT, since 2021-04-18

(2021.04.18Sun)GradientBoostingDecisionTree,GBT/GBDT梯度下降树通过加法模型(基函数的线性组合)，以及不断减小训练过程的残差来达到将数据分类或回归的算法

Mc杰夫·2023-10-22 18:51

集成学习入门与实战

阳云yy·2023-10-21 04:24

绝境逆生

1.过拟合的解决办法2.L1/L2正则化3.特征如何降维（pcalda）4.pca和lda的区别5.GBDT，XGBOOST，RF，对XGB参数的理解（LR,SVM,XGBOOST,这三个模型中哪个处理数据不平衡的

涛来涛去·2023-10-18 21:32

Boost-GBDT

GBDT也是集成学习Boosting家族的成员，但是却和传统的Adaboost有很大的不同。回顾下Adaboost，我们是利用前一轮迭代弱学习器的误差率来更新训练集的权重，这样一轮轮的迭代下去。

zhouycoriginal·2023-10-18 14:47

机器学习聚类算法——BIRCH算法、DBSCAN算法、OPTICS算法

随机森林算法、极端随机树和单颗决策树分类器对手写数字数据进行对比分析_极端随机森林算法机器学习集成学习——Adaboost分离器算法机器学习之SVM分类器介绍——核函数、SVM分类器的使用机器学习集成学习——GBDT

张小鱼༒·2023-10-18 08:29

GBDT+LR简介

文章目录一.GBDT+LR简介二.逻辑回归模型三.GBDT模型四.GBDT+LR模型一.GBDT+LR简介在协同过滤和矩阵分解存在的劣势就是仅利用了用户与物品相互行为信息进行推荐，忽视了用户自身特征，物品自身特征以及上下文信息等

LKID体·2023-10-18 06:12

机器学习算法的分类

1.按学习方式分类1）监督学习应用场景：分类、回归、排序常见算法：分类，Logistic回归/SVM/NN回归，线性回归排序，GBDT2）非监督学习应用场景：聚类、降维、关联规则的学习常见算法：聚类，K-Means

奔跑的何小鹿·2023-10-17 19:53

gbdt 回归特征重要性排序_GBDT算法原理及应用

一、GBDT算法原理GradientBoostingDecisionTree(GBDT)是梯度提升决策树。

weixin_39778003·2023-10-15 10:31

逻辑回归总结

将数据进行二分类2）前提：假设数据符合伯努利分布3）模型：sigmoid函数4）损失函数：极大似然函数（为什么要用极大似然函数）5）求解：梯度下降方法（其他优化方法）6）多分类问题7）优点8）缺点9）gbdt

孙有涵·2023-10-13 19:22

全网最浅显易懂的GBDT(xgboost)算法原理深入剖析

梯度提升（Gradientboosting）是一种用于回归、分类和排序任务的技术，属于Boosting算法族的一部分。Boosting是一族可将弱学习器提升为强学习器的算法，属于集成学习（ensemblelearning）的范畴。Boosting方法基于这样一种思想：对于一个复杂任务来说，将多个专家的判断进行适当的综合所得出的判断，要比其中任何一个专家单独的判断要好。通俗地说，就是“三个臭皮匠顶个

ShallowLearner·2023-10-09 18:07

推荐频道

GBDT