XGB

人工智能-GPU版本机器学习、深度学习模型安装

背景1、在有Nvidia-GPU的情况下模型使用cuda加速计算，但是很有多模型的GPU和CPU版本安装方式不同，如何安装lgb\cat\xgb.2、为了让代码有普适性，如何自适应环境当中的设备进行CPU
bw876720687·2024-09-13 02:06

《机器学习》—— XGBoost（xgb.XGBClassifier） 分类器

文章目录一、XGBoost分类器的介绍二、XGBoost（xgb.XGBClassifier）分类器与随机森林分类器（RandomForestClassifier）的区别三、XGBoost（xgb.XGBClassifier
张小生180·2024-09-10 06:01

XGB-12:在 Kubernetes 上进行分布式 XGBoost 训练

通过KubeflowXGBoostTrainingOperator支持在Kubernetes上进行分布式XGBoost训练和批量预测。操作步骤为在Kubernetes集群上运行XGBoost作业，执行以下步骤：在Kubernetes集群上安装XGBoostOperator。XGBoostOperator旨在管理XGBoost作业的调度和监控。按照安装指南安装XGBoostOperator。编写由X
uncle_ll·2024-02-27 09:48

基于LightGBM的回归任务案例

在对XGB模型进行了越来越多的改进以获得更好的性能之后，XGBoost是一种极限梯度提升机器，但通过lightgbm，我们可以在没有太多计算的情况下实现类似或更好的结果，并在更短的时间内在更大的数据集上训练我们的模型
python收藏家·2024-02-15 09:21

深度学习为什么需要suffle，xgb为什么不需要shuffle?

而xgb模型训练建树的过程最重要的步骤是分裂点的选择。考虑的数据是整个训练集。xg
fengyuzhou·2024-02-10 06:08

XGB-3: 模型IO

在XGBoost1.0.0中，引入了对使用JSON保存/加载XGBoost模型和相关超参数的支持，旨在用一个可以轻松重用的开放格式取代旧的二进制内部格式。后来在XGBoost1.6.0中，还添加了对通用二进制JSON的额外支持，作为更高效的模型IO的优化。它们具有相同的文档结构，但具有不同的表示形式，但都统称为JSON格式。本教程旨在分享一些关于XGBoost中使用的JSON序列化方法的基本见解。
uncle_ll·2024-02-04 23:49

XGB-2: Boosted Trees（提升树）简介

XGBoost代表“ExtremeGradientBoosting”，其中术语“GradientBoosting”来源于Friedman的论文《GreedyFunctionApproximation:AGradientBoostingMachine》。梯度提升树已经存在一段时间，关于这个主题有很多资料。本部分将使用监督学习的元素，以一种自包含和原则性的方式解释提升树。认为这种解释更清晰、更正式，并
uncle_ll·2024-02-04 16:58

XGB-1：XGBoost安装及快速上手

XGBoost是“ExtremeGradientBoosting”的缩写，是一种高效的机器学习算法，用于分类、回归和排序问题。它由陈天奇（TianqiChen）在2014年首次提出，并迅速在数据科学竞赛和工业界获得广泛应用。XGBoost基于梯度提升框架，但通过引入一系列优化来提升性能和效率。XGBoost的主要特点：性能高效：XGBoost通过并行处理和核外计算来优化计算速度，同时保持高预测精度
uncle_ll·2024-02-04 16:57

pandas.dataframe/ xgb.DMatrix设置header的方式

1.dataframe经常由csv得到，可以在用pd.read_csv()时通过参数names设置df的名称，比如：Cov=pd.read_csv("path/to/file.txt",sep='\t'，names=["Sequence","Start","End","Coverage"])2.也可以把header=None，然后再设置columns属性，比如：Cov=pd.read_csv("p
Ten_Minutes·2024-01-29 22:04

机器学习_常见算法比较模型效果(LR、KNN、SVM、NB、DT、RF、XGB、LGB、CAT)

文章目录KNNSVM朴素贝叶斯决策树随机森林KNN“近朱者赤，近墨者黑”可以说是KNN的工作原理。整个计算过程分为三步：计算待分类物体与其他物体之间的距离；统计距离最近的K个邻居；对于K个最近的邻居，它们属于哪个分类最多，待分类物体就属于哪一类。说说向量的距离。在KNN和其他机器学习算法中，常用的距离计算公式包括欧氏距离和曼哈顿距离。两个向量之间，用不同的距离计算公式得出来的结果是不一样的。欧氏距
you_are_my_sunshine*·2024-01-26 06:25

浅析内存地址如何编码

#include//浅析内存地址如何编码intmain(){/*内存地址编码：假设现在有一块内存条，具体多大未知，设为xGB大小，CPU要读取其中的1小块数据。
我是小木鱼·2024-01-13 11:13

xgboost 中 model.predict 与 model.get_booster()预测结果为什么不一样呢？

1.亲测0.71版本训练出来的模型，用0.90版本的xgb预测，结果不一致2.同一版本下model.get_booster().predict与model.predict预测结果为什么不一致呢?
yangqingqing·2024-01-12 18:28

【机器学习】模型调参工具：Hyperopt 使用指南

2.Hyperopt的优缺点3.如何使用Hyperopt进行调参3.1安装Hyperopt3.2构建超参数空间3.3定义目标函数3.4运行Hyperopt优化3.5获取最优超参数4.XGB调参代码示例参考资料前言在机器学习和数据科学领域
Avasla·2024-01-12 06:31

【机器学习】模型参数优化工具：Optuna使用分步指南（附XGB/LGBM调优代码）

常用的调参方式和工具包常用的调参方式包括网格搜索(GridSearch)、**随机搜索(RandomSearch)和贝叶斯优化(BayesianOptimization)**等。工具包方面，Scikit-learn提供了GridSearchCV和RandomizedSearchCV等用于网格搜索和随机搜索的工具。另外，有一些专门用于超参数优化的工具包，如Optuna、Hyperopt等。这些方法各
Avasla·2024-01-10 10:50

xgb模型json转pmml

一背景：在实际项目中往往会有不同种类的模型，如xgb的训练完保存为json格式、pkl格式以及原始booster的.model格式，预测需要用到pmml可以在spark中借助大数据的能力的跑因此需要对模型的格式进行转换
zcc_0015·2024-01-09 15:31

机器学习基础面试点

来源：https://zhuanlan.zhihu.com/p/82105066一.常见手推公式部分1.1LR手推、求导、梯度更新1.2SVM原形式、对偶形式1.3FM公式推导1.4GBDT手推1.5XGB
mylaf·2024-01-03 05:07

2019-11-19：xgboost用于排序的算法

%s"%self.args.task_purpose)dtrain=xgb.DMatrix(
AI_Finance·2023-12-31 11:40

Python银行信贷风控建模实战（xgb+lgb）

目录一、数据读取及预处理1、数据读取2、数据预处理二、模型构建及评估三、划重点少走10年弯路一、数据读取及预处理1、数据读取数据来源某比赛网站（下图仅为部分字段），数据集中包含银行借贷订单的金额、利息、账期、担保等基本信息，还有历史授信情况，数据类型同样包含数值型、类别型、日期等变量，同时存在缺失问题，适合初学者入门练习。文末获取数据2、数据预处理（1）无效特征剔除：数据集中存在部分无效数据，唯一
Python风控模型与数据分析·2023-12-01 02:52

知识补给站20230419-20230421

文章目录1.FTP定价2.BP3.XGB中的SHAP4.其他格式转数据框5.树模型当中的增益是怎么计算的?6.plt作图小结？7.解决样本不平衡问题？8.缺失值填充9.周期损失的计算方法？
Charming&M·2023-11-27 16:45

【机器学习】XGB/LGBM

XGBoost的decisiontree用的是pre-sortedbased的算法，也就是在treebuilding之前对各维特征先排序，代表性的算法是SLIQ和SPRINT。SLIQ和SPRINT算法的特点决定了树生长的方式是level-wise(breadth-first)的。而LightGBM的decisiontree是histogrambased的算法，也就是先将特征离散化，代表性的算法是
sdbhewfoqi·2023-11-06 09:54

Python租房价格分析及预测（xgb+catboost+rf）

目录一、数据介绍二、统计分析三、数据预处理四、回归模型五、划重点早年爬取过我爱我家上北京的部分租房信息，现在重新拿来分析和建模，以往文章大多偏二分类、这次来个数据分析+回归模型的文章。一、数据介绍数据内容包括房子地址、周边情况、交通情况、户型朝向、小区房源情况、看房情况等等信息。数据获取见文末二、统计分析样本量共4w+，包括各地区房源，按照所在区分组、平均租房价格进行倒序排序结果如下，排序基本符合
Python风控模型与数据分析·2023-11-03 11:03

机器学习_XGB模型训练内存溢出解决方案

数据读取与处理模型训练之前笔者有写过数据读取与处理解决内存溢出的相关处理方案（核心是用生成器分批处理）可以看笔者之前的文章：机器学习预处理效率及内存优化（多进程协程优化）本文主要讲解如何处理xgb模型训练的时候内存溢出的情况一
Scc_hy·2023-11-02 11:44

解决Pycharm中import 自己定义的模块时出错：ImportError: No module named 'xxx'

有时候需要在其它.py文件import我们自己写的一些.py文件,例如下图中需要在xgb_sample.py中importtitanic.py中的类，明明都在同一个文件夹下，路径也是对的，但是会报错：ImportError
博士伦2014·2023-10-30 16:13

特征筛选还在用XGB的Feature Importance？试试Permutation Importance

特征筛选是建模过程中的重要一环。基于决策树的算法，如RandomForest，Lightgbm,Xgboost，都能返回模型默认的FeatureImportance，但诸多研究都表明该重要性是存在偏差的。是否有更好的方法来筛选特征呢？Kaggle上很多大师级的选手通常采用的一个方法是PermutationImportance。这个想法最早是由Breiman（2001）提出，后来由Fisher，Ru
我爱Python数据挖掘·2023-10-30 01:18

绝境逆生

1.过拟合的解决办法2.L1/L2正则化3.特征如何降维（pcalda）4.pca和lda的区别5.GBDT，XGBOOST，RF，对XGB参数的理解（LR,SVM,XGBOOST,这三个模型中哪个处理数据不平衡的
涛来涛去·2023-10-18 21:32

python实现特征分析--特征重要性和相关系数

机器学习中特征尤为重要，现分享特征分析中计算特征重要性和相关系数的方法一、特征重要性可通过两种方式实现1.机器学习方法自带的feature_importanceimportances=xgb1.feature_importances
是一个橙子呀·2023-10-11 11:38

基于NASA C-MAPSS数据的剩余机械寿命RUL预测，Python代码（添加了非常详细中文注释），线性回归LR、支持向量回归SVR、随机森林回归RF、xgboost模型

1.运行效果：基于NASAC-MAPSS数据的剩余机械寿命RUL预测，Python代码（添加了非常详细中文注释），线性回归LR、支持向量回归SVR、随机森林回归RF、xgb_哔哩哔哩_bilibili2
深度学习的奋斗者·2023-10-10 20:51

XGB算法梳理

算法原理XGB(extremegradientboosting)是GBDT的一种工业实现，也是通过不断增加新树，拟合伪残差去降低损失函数。
凌霄文强·2023-10-08 13:36

xgboost学习-XGBoost的智慧

文章目录一、选择弱评估器：重要参数booster二、XGB的目标函数：重要参数objective三、求解XGB的目标函数四、参数化决策树alpha，lambda五、寻找最佳树结构：求解ω与T六、寻找最佳分枝
育林·2023-10-06 15:04

机器学习（19）---XGBoost入门

2.1概述2.2XGBoost的简单建模2.3n_estimators学习曲线2.4方差与泛化误差2.5重要参数subsample2.6迭代决策树：重要参数eta三、XGBoost的智慧3.1概述3.2XGB
冒冒菜菜·2023-09-25 15:35

【机器学习】XGB如果类别不平衡怎么解决？和深度学习解决办法一样吗？

xgboost-样本类别不平衡-知乎分类问题中类别不平衡问题的有效解决方法_多分类问题时scale_pos_weight-CSDN博客解决样本不平衡问题的奇技淫巧汇总_数据小样本同时每天数据都在变_songhk0209的博客-CSDN博客
sdbhewfoqi·2023-09-15 18:08

task3 数据的特征工程

针对xgb等模型的理解lightgbm,xgboost,gbdt的区别与联系LR和树模型基础概念决策树、逻辑回归、线性回归使用时注意事项以及模型过拟合策略个人的理解是，这些模型大致分为两类，一类是线性模型
欧飞红·2023-09-14 01:45

Toad：基于 Python 的标准化评分卡模型

区别于xgb等机器学习模型，评分卡使用逻辑回归，之所是还在使用时因为它属于广义线性回归，在特征的解释性上非常的强。本次和大家分享一个开源的评分卡神器to
程序员的隐秘角落·2023-09-01 22:45

隐语纵向联邦 SecureBoost Benchmark白皮书

开源项目：https://github.com/secretflowhttps://gitee.com/secretflow导语：在数据科学竞赛中经典算法XGB备受关注。
·2023-08-31 17:33

最……你能猜出是那十六位诗人？

金龟换酒最疯狂，滕王阁笔墨豪放，刘郎二度放豪腔，赤壁怀古咏绝唱……寒贫饱含广厦望，大漠燕山戍边疆，无限近夕阳惆怅，阿房宫里怀怅惘，天下识君是梦想，且停停智慧芬芳，早慧是白鹅的殇，五柳是无赖唱腔……猜出者加微信xgb1974887388
夏逸风·2023-08-24 07:42

XGB：展示每个预测结果的各特征概率

问题描述：我正在尝试使用xgboost算法预测解决多类分类，但是我不知道predict_proba是如何工作的.实际上，predict_proba会生成一个概率列表，但我不知道每种概率与哪个类别相关.这是一个简单的例子:这是我的训练数据:+------------+----------+-------+|feature1|feature2|label|+------------+---------
Ryan96·2023-08-18 20:44

LightGBM Java实现在线预测

至于XGB和LGB原理和优缺点自行百度，不在本文范围内。近期因
尼小摩·2023-07-28 05:40

XGB算法梳理

算法原理XGB(extremegradientboosting)是GBDT的一种工业实现，也是通过不断增加新树，拟合伪残差去降低损失函数。
RamondZ·2023-07-25 20:19

【NLP】NLP全路径学习推荐

例如：集成学习（随机森林、GBDT、XGB、Stacking等）、条件随机场CRF、贝叶斯网络、支持向
风度78·2023-07-20 16:47

机器学习sklearn-xgboost

每次迭代过程都加一棵树XGB每个叶子节点上会有一个预测分数，也被称为叶子权重，叶子权重就是所有在这个叶子节点上的样本在这一棵树上的回归取值参数n_e
yzy_1117·2023-07-19 23:42

sklearn基于pickle / joblib 的模型保存及加载

picklescikit-learn内部的joblib1.pickle模型保存及加载模型定义及训练：fromsklearnimportsvmfromsklearnimportdatasetsmodel_xgb
酒酿小圆子～·2023-07-18 15:37

XGB算法梳理

目录1.CART树2.算法原理3.损失函数4.分裂节点算法5.正则化6.对缺失值的处理7.xgb的其他优化8.xgb参数9.xgb常问面试问题1.CART树CART树(分类与回归树)，可以用于分类也可以用于回归
futurewq·2023-06-17 13:29

那份你坚持的爱得到回应了吗

xgb这是他的名字缩写，今天在这里分享我的分手心得，希望能够帮助那些还没有看清自己内心的女孩，别让一份没有答案的单相思阻碍你真正的快乐与幸福。xgb，你好。
依依在这·2023-06-14 09:22

基于机器学习SVM xgboost xgb 线性回归 逻辑回归 的二手车价格预测 完整数据+代码

项目运行视频：https://www.bilibili.com/video/BV1ZP411f7uq/?spm_id_from=333.999.0.0附完整的代码+数据
蒙奇迪路飞飞·2023-06-09 11:28

数据挖掘：心脏病预测(测评指标；EDA)

）2.2.1导入函数工具箱2.2.2查看数据信息等相关数据判断数据缺失和异常数字特征相互之间的关系可视化类别特征分析（箱图，小提琴图，柱形图）2.2.3特征与标签构建2.3模型训练与预测2.3.1利用xgb
牛大了2023·2023-04-21 21:52

机器学习实战——特征工程+xgboost股票预测

前言用上证50只股票的以上特征训练xgb模型预测当天的close。
只会git clone的程序员·2023-04-19 17:57

模型融合 Boosting 方法

模型融合Boosting方法文章目录模型融合Boosting方法1.GBDT模型2.XGB模型3.随机森林1.GBDT模型使用网格搜索寻找具备最优超参GBDT模型对数据进行预测，采用MSE指标对模型进行评价
迷路爸爸180·2023-04-19 03:09

2019饿了么算法秋招面试经验

GBDT和xgb的
MarioBai·2023-04-18 06:12

论文笔记 | KDD2016 | XGBoost: A Scalable Tree Boosting System

xgb-title.jpg论文地址：https://arxiv.org/abs/1603.02754官方代码：https://github.com/dmlc/xgboost一为什么读这篇虽然几年前xgb
ktulu7·2023-04-17 12:14

xgboost学习-原理

文章目录一、xgboost库与XGB的sklearnAPIXGBoost的三大板块二、梯度提升树提升集成算法：重要参数n_estimators三、有放回随机抽样：重要参数subsample四、迭代决策树
育林·2023-04-15 04:35
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他