XGboost 第16页

【机器学习】深入理解LightGBM

目录：深入理解LightGBM一、LightGBM简介二、LightGBM提出的动机三、XGBoost的缺点及LightGBM的优化3.1XGBoost的缺点3.2LightGBM的优化四、LightGBM

旅途中的宽~·2023-01-01 15:24

几种特征选择方法的比较，孰好孰坏？

比较了CART、OptimalTrees、XGBoost和SHAP正确识别相关特征子集的能力。无论使用原生特征重要性方法还是SHAP、XGBoost都不能清晰地区分相关和不相关的特征。

喜欢打酱油的老鸟·2022-12-31 17:18

XGBoost模型的保存和调用

importpickleimportxgboostasxgbfromsklearn.datasetsimportload_bostonfromsklearn.model_selectionimporttrain_test_split

拟禾·2022-12-31 15:59

基于python的XGBoost模型建立和调参

1.创建模型类（关于预测问题）classXGB(object):def__init__(self):importxgboostasxgbfromsklearn.preprocessingimportStandardScalerself.StandardScaler

！！！！永无止境！！！！·2022-12-31 15:59

手写xgboost

#训练#1）输入n*dx的numpy矩阵，n个样本，dx个特征。importnumpyasnpx=np.loadtxt("input/train.txt",dtype=np.float64)y=np.loadtxt("label/train.txt",dtype=np.float64)print('loaded')n,dx=x.shape_,dy=y.shape#2）弄一个输出表n*dy，是xgb

出尘呢·2022-12-31 15:29

XGBoost 的纯Python实现

文章目录1.背景2.XGBoost的纯Python实现3.调用XGBoost库函数1.背景在上一期的笔记中，我们主要讨论了XGBoost的原理，最近我在公众号机器学习实验室看到一篇文章，里面给出了XGBoost

Curren.wong·2022-12-31 15:28

集成模型(3)XgBoost主要原理及其python实现

XgBoost主要原理及其python实现1基本思想1.1目标函数的优化推导1.2内部节点分裂2.总结3.python实现3.1基学习器的实现3.2XgBoost回归器的实现3.3XgBoost分类器的实现前言

Donreen·2022-12-31 15:58

python实现xgboost算法

importmatplotlib.pyplotaspltfromsklearnimportdatasetsfromsklearn.model_selectionimporttrain_test_splitfromsklearn.metricsimportaccuracy_scorefromxgboostimportXGBClassifierfromxgboostimportplot_importa

AI界扛把子·2022-12-31 15:58

Python 中解释 XGBoost 模型的学习曲线

XGBoost是梯度提升集成算法的强大而有效的实现。配置XGBoost模型的超参数可能具有挑战性，这通常会导致使用既费时又计算量大的大型网格搜索实验。

Python中文社区·2022-12-31 15:57

XGBoost模型的python实现

文章目录函数介绍实例二分类问题多分类问题作者：李雪茸函数介绍实现XGBoost分类算法使用的是xgboost库的XGBClassifier，具体参数如下：1、max_depth：给定树的深度，默认为32

zoujiahui_2018·2022-12-31 15:27

基于逻辑回归和xgboost算法的信用卡欺诈检测（python)

基于逻辑回归和xgboost算法的信用卡欺诈检测认识数据数据规范化数据分组SMOTE过采样算法混淆矩阵k折交叉验证逻辑回归算法XGBoost算法参考博客认识数据importpandasaspdimportnumpyasnpimportmatplotlib.pyplotasplt

LY.·2022-12-31 12:48

使用K-Fold训练和预测XGBoost模型的方法

文章目录一、前言二、Xgboost一般的训练方法2.1问题及数据分析2.2搭建xgboost预测模型2.3XGBoost模型训练保存及模型评估2.4使用XGBoost模型进行预测三、使用F-fold方法训练和预测

Dark universe·2022-12-31 12:06

【机器学习】9种回归算法及实例总结，建议学习收藏

在本文中，我们将通过使用Scikit-learn和XGBoost的动手实践来学习9种流行的回

Python数据开发·2022-12-31 06:33

有监督算法和无监督算法都有哪些

在已经有标签的数据上去分类在已经有标签的数据上去预测上传笔记本电脑的品相品相好的给1不好的给0主要有下面一些分类算法k临近算法分类朴素贝叶斯分类决策树分类随机森林分类分类回归分类KNNAdaboostGDDTXGBoostLightGBM

一个人看小丸子·2022-12-30 22:30

机器学习算法岗：常见面试问题及解答整理，持续更新

差异：二、过拟合的原因及如何防止三、几种模型（SVM，LR，GBDT，EM）的原理以及公式推导1、SVM原理2、LR（线性回归）原理2.5、SVM与LR异同点3、GBDT原理4、EM（期望最大）原理5、XGBoost

CV干饭王·2022-12-30 22:59

机器学习中级课程 3.分类变量

机器学习中级教程1.介绍2.缺失值3.分类变量4.管道(Pipelines)5.交叉验证6.梯度提升(XGBoost)7.数据泄漏有很多非数字数据。下面是如何将其用于机器学习。

cndrip·2022-12-30 11:39

【学习笔记】机器学习算法（三）基于LightGBM的分类预测

LightGBM可以看作是XGBoost的升级豪华版，在获得与XGB

HLLOVELZ·2022-12-30 11:07

深度之眼（二十三）——Python：Sklearn库

鸢尾花数据集为例）二、八大传统分类算法2.1K邻近2.2朴素贝叶斯2.3决策树2.4逻辑回归2.5支持向量机2.6集成方法2.6.1随机森林2.6.2Adaboost2.6.3梯度提升树GBDT三、大杀器[1]xgboost

周末不下雨·2022-12-30 07:19

阿里云天池大数据竞赛——O2O优惠券使用预测（基于XGBoost）（附python Jupter代码）

赛题链接：天池新人实战赛o2o优惠券使用预测-天池大赛-阿里云天池赛题提供用户在2016年1月1日至2016年6月30日之间真实线上线下消费行为，预测用户在2016年7月领取优惠券后15天以内的使用情况。题中所给数据的特征较少，所以特征工程的构建是本题的重中之重，如何构建合适的特征向量？博主认为：一方面要凭借主观经验，比如说到要预测用户优惠券使用情况，我们凭借经验也能想到其会与"用户的商家偏好"，

MITTYzhao·2022-12-30 01:01

天池大赛o2o优惠券第一名代码笔记之_xgb

源码在我python3.6上出来点小问题如图：问题解决方法源码：importpandasaspdimportxgboostasxgbfromsklearn.preprocessingimportMinMaxScalerdataset1

Gunther17·2022-12-30 01:58

PYTHON链家租房数据分析：岭回归、LASSO、随机森林、XGBOOST、KERAS神经网络、KMEANS聚类|附代码数据

全文下载链接:http://tecdat.cn/?p=29480作者：XingshengYang最近我们被客户要求撰写关于链家租房数据分析的研究报告，包括一些图形和统计输出。1利用python爬取链家网公开的租房数据；2对租房信息进行分析，主要对房租相关特征进行分析，并搭建模型用于预测房租任务/目标利用上海链家网站租房的公开信息，着重对月租进行数据分析和挖掘。上海租赁数据此数据来自Lianjia.

·2022-12-30 00:06

DS&ML_特征工程笔记

sgyzetrov·2022-12-29 22:13

使用GridSearchCV给XGboost模型进行参数调优

Scikit-learn中提供了一个函数可以帮助我们更好地进行调参：sklearn.model_selection.GridSearchCV常用参数解读：estimator：所使用的分类器，如果比赛中使用的是XGBoost

黄佳俊、·2022-12-28 15:11

GridSearch调参xgb

importxgboostasxgbimportpandasaspdfromsklearn.model_selectionimporttrain_test_splitfromsklearn.metricsimportroc_auc_scoretrain_data

zanlinux·2022-12-28 15:41

多目标任务 Xgboost 参数优化，通过交叉验证方法选择最优参数（一次输出多个 y ）

importosimportnumpyasnpimportpandasaspdimporttimefromsklearn.multioutputimportMultiOutputRegressorimportmatplotlib.pyplotasplt#核心代码，设置显示的最大列、宽等参数，消掉打印不完全中间的省略号pd.set_option('display.max_columns',1000)

tutu96177·2022-12-28 15:39

XGBoost学习（五）：参数调优

XGBoost学习（一）：原理XGBoost学习（二）：安装及介绍XGBoost学习（三）：模型详解XGBoost学习（四）：实战XGBoost学习（五）：参数调优XGBoost学习（六）：输出特征重要性以及筛选特征完整代码及其数据

安然烟火·2022-12-28 15:07

XGBoost参数调优小结

R3eE9y2OeFcU40·2022-12-28 15:06

GridSearchCV调参过程展示 + 模型融合

由于调参过程展示这块容易忘，所以就索性直接在这记录一下，具体代码和效果如下（调参顺序可以不按以下顺序，建议先调学习率，然后确定学习率调整弱学习器个数，调参技巧可以查看我的此篇博客：机器学习-XGBoost

醉翁之意不在酒~·2022-12-28 15:35

可解释的机器学习(XML)概览

一、引言近年来，机器学习在大数据和算力发展的加持下在各个应用领域获得了令人印象深刻的成果，尤其是深度学习模型和集成学习模型（RandomForest，XGBoost和LigntGBM）。

zhfplay·2022-12-28 08:51

python xgboost建模过程_机器学习——XGBoost大杀器，XGBoost模型原理，XGBoost参数含义...

0.随机森林的思考随机森林的决策树是分别采样建立的，各个决策树之间是相对独立的。那么，在我们得到了第k-1棵决策树之后，能否通过现有的样本和决策树的信息，对第m颗树的建立产生有益的影响呢？在随机森林建立之后，采用的投票过程能否增加一定的权值呢？在选取样本的时候，我们能否对于分类错误的样本给予更大的权值，使之得到更多的重视呢？1.什么是提升思想提升是一个机器学习技术，可以用于回归和分类问题，它每一步

关健明·2022-12-27 07:13

XGBoost学习（三）：模型详解

XGBoost学习（一）：原理XGBoost学习（二）：安装及介绍XGBoost学习（三）：模型详解XGBoost学习（四）：实战XGBoost学习（五）：参数调优XGBoost学习（六）：输出特征重要性以及筛选特征完整代码及其数据

安然烟火·2022-12-27 07:12

xgb的简单使用（特征选择，重要性图像绘制，分类，预测）

2016年，陈天奇在论文《XGBoost：AScalableTreeBoostingSystem》中正式提出该算法。

直方大·2022-12-27 07:12

Python降低XGBoost 过度拟合多种方法

之前已经讲过机器学习的XGBoost算法简介XGBoostfeatureimportance特征重要性-实战印第安人糖尿病数据集，今天来讲解xgboost过度拟合问题。

python机器学习建模·2022-12-27 03:33

roc评估logistic_模型评估常用指标

一、ROC曲线和AUC值在逻辑回归、随机森林、GBDT、XGBoost这些模型中，模型训练完成之后，每个样本都会获得对应的两个概率值，一个是样本为正样本的概率，一个是样本为负样本的概率。

weixin_39763683·2022-12-26 01:09

python 机器学习信息熵的计算

题目介绍：描述决策树是非常经典的机器学习模型，以决策树为基模型的集成学习模型（XGBoost、GBDT等）在工业界得到了极为广泛的应用。决策树有三种常见的启发式生成标准，信息增益就是其中之一。

数学是算法的灵魂·2022-12-26 01:02

推荐：数据竞赛的利器XGBoost的常见面试题

XGBoost的威名想必大家都有所耳闻，它不仅是数据科学竞赛神器，在工业界中也被广泛地使用。

风度78·2022-12-25 06:50

【推荐收藏】机器学习9种回归算法原理及实例的总结太详细了

在本文中，我们将通过使用Scikit-learn和XGBoost的动手实践来学习9种流行的回

2201_75499313·2022-12-25 06:45

天猫复购预测

思路：用LR的预测结果作为baseline;然后分别用XGBoost，LightGBM，CatBoost，DIN，NGBoost，K折xgb+lgb+catb模型融合进行训练并预测，与baseline效果对比

萌主¤小狸·2022-12-25 03:44

XGBoost算法浅述

极度梯度提升树XGBoost(xgb,eXtremeGradientBoosting)是boosting算法的一种实现方式，针对分类或回归问题都有非常好的效果，是横扫kaggle的王牌算法，其学习应用速度及运行速度都极其快速

一本糊涂张·2022-12-24 14:46

用BERT进行中文短文本分类

刚开始用了SVM、xgBoost效果都不是很好，群里有人说BERT的效果不错，于是自己赶鸭子上架，根据网上的文章，手动实践，赶在比赛结束前一天提交了结果，效果确实比传统机器学习模型要强得多，特记录一下详细步骤与程序

机巧堂堂主居十方·2022-12-24 14:19

Datawhale组队学习之集成学习——Task 6 Boosting

、Adaboost算法1、Adaboost基本原理2、使用sklearn对Adaboost算法进行建模三、前向分步算法四、梯度提升决策树(GBDT)1、基本原理2、使用sklearn来使用GBDT五、XGBoost

Codewith_jing·2022-12-24 14:08

【ML】随机森林(Random Forest) 从入门到放弃再到掌握

XGBoost对GBDT的提升LGB对XGB的提升Bagging随机森林简介随机森林构建python中使用随机森林为什么选决策树作为基分类器偏差和方差总结一下GBD

半九拾·2022-12-24 13:19

风控比赛第一弹

3.模型选择方面，LightGBM,Catboost,Xgboost都表现较好，前两者运行更快，且能自动处理类别特征，处理缺失值。由于是决

vitacode·2022-12-24 10:18

【机器学习】Adaboost、GBDT、XGBoost算法原理解析

GBDT和XGBoost《统计学习方法》与《机器学习》这两本书中都没有涉及，但是看别人在牛客网上的面经分享都有提到，其实这两个算法主要在竞赛中经常被用到，因此还是有必要了解一下。

秋天的波·2022-12-24 10:58

bagging和随机森林

随机理解2.3RF与bagging的比较2.4随机森林的特征重要性原理2.5RF优缺点2.6RF与GBDT的区别前言接下来会介绍一些基于决策树的具有代表性的集成模型，如随机森林（RF），GBDT，XGBoost

weixin_50304531·2022-12-24 08:07

XGBoost总结

1.算法原理XGBoost是boosting算法的其中一种。Boosting算法的思想是将许多弱分类器集成在一起形成一个强分类器。

happy5205205·2022-12-24 08:01

XGBoost 、逻辑回归、随机森林模型实战对比

目录引言一、数据的特征处理二、导入XGBoost模型三、使用其他模型于XGBoost进行对比引言在XGBoost基本原理博文中我们介绍了XGBoost的基本原理，本篇博文我们将介绍XGBoost的基本使用方法

温旧酒一壶~·2022-12-24 07:55

机器学习笔记28——Boosting方法之CatBoost算法原理及python实战

CatBoost和XGBoost、LightGBM并称为GBDT的三大主流神器，都是在

珞沫·2022-12-23 19:50

【机器学习】集成学习算法使用与对比（随机森林、GBDT、XGBoost、LightGBM等）

集成学习方法随机森林、GBDT、XGBoost、LightGBM的使用与对比importwarningswarnings.filterwarnings("ignore")importpandasaspdfromsklearn.model_selectionimporttrain_test_split

Python数据挖掘·2022-12-23 19:49

xgboost时间序列预测matlab,LightGBM和XGBoost实现时间序列预测(2019-04-02)

LightGBM是最近最常见的一类算法，在kaggle比赛中经常被用来做预测和回归，由于性能比较好有着“倚天剑”的称号，而XGBoost则被称为屠龙刀。

久立·2022-12-23 16:42

推荐频道

XGboost