集成学习

关于随机森林改进的理解

随机森林作为一种集成学习方法，它是由一系列基学习器构成的，构成及学习器的方法就是通过随机化采样的方法，来构成不同泛化边界的基学习器，然后在通过简单的投票法来结合出最后的集成模型。
andycj7·2020-08-19 03:32

集成算法分类及原理

集成学习应用在ML领域非常广泛：可
果果求学者·2020-08-19 01:19

【机器学习】GBDT 算法 整理

GBDT是一种集成学习算法，却和传统的Adaboost有很大的不同。回顾下Adaboost，它是利用前一轮迭代弱学习器的误差率来更新训练集的权重，这样一轮轮的迭代下去。
CWS_chen·2020-08-18 19:08

梯度提升树(GBDT)原理小结

在集成学习之Adaboost算法原理小结中，我们对Boosting家族的Adaboost算法做了总结，本文就对Boosting家族中另一个重要的算法梯度提升树(GradientBoostingDecisonTree
zldeng_scir·2020-08-18 18:36

机器学习分类算法(六)-随机森林算法

集成算法集成学习（ensemblelearning）是目前非常流行的机器学习策略，基本上所有问题都可以借用其思想来得到效果上的提升。
安替-AnTi·2020-08-18 17:59

机器学习——随机森林（Random Forest）

随机森林就是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习（EnsembleLearning）方法。
yaochen2507·2020-08-18 12:34

集成学习（机器学习）

集成学习Bagging实例：采样方式随机采样（bootsrap）就是从我们的训练集中采集固定个数的样本，但是每采样一个样本后，都将样本放回。也就是说，之前采集到的样本放回后有可能继续被采集到。
晨恒父·2020-08-18 12:38

数学推导+纯Python实现机器学习算法17：XGBoost

XGBoost与GBDT同出一脉，都属于boosting集成学习算法，但XGBoost相较于GBDT要青出于蓝而胜于蓝。XGBoost的全程为eXtremeGradien
louwill12·2020-08-18 12:15

决策树算法原理(ID3，C4.5)

决策树算法原理(CART分类树)CART回归树决策树的剪枝决策树可以作为分类算法，也可以作为回归算法，同时特别适合集成学习比如随机森林。
weixin_34179762·2020-08-18 12:24

文本分类的14种算法

AI算法工程公众号：datayx之前介绍了14种文本分类中的常用算法，包括8种传统算法：k临近、决策树、多层感知器、朴素贝叶斯（包括伯努利贝叶斯、高斯贝叶斯和多项式贝叶斯）、逻辑回归和支持向量机；4种集成学习算法
demm868·2020-08-18 11:40

GBDT算法的特征重要度计算

Treeensemble算法的特征重要度计算标签：特征选择GBDT特征重要度集成学习因具有预测精度高的优势而受到广泛关注，尤其是使用决策树作为基学习器的集成学习算法。
yangxudong·2020-08-18 06:32

机器学习集成学习与模型融合！

Datawhale每日干货&每月组队学习，不错过Datawhale干货作者：李祖贤，深圳大学，Datawhale高校群成员对比过kaggle比赛上面的top10的模型，除了深度学习以外的模型基本上都是集成学习的产物
Datawhale·2020-08-17 19:14

中南大学自动化学院“智能控制与优化决策”课题组-第八章集成学习任务小结

1．谈谈集成学习的概念和思想。
中南大学智能控制与优化决策课题组·2020-08-17 19:23

决策树与集成学习的结合——GBDT和XGBoost

1.集成学习（将多个弱学习器组合成为强学习器）串行：Boosting,后一个学习器依赖于前一个，故为串行比较有名的是AdaBoost，每次迭代训练一个学习器，并提高前一轮学习器分类错误样本的权值，降低分类正确的权值并行
momo_zhong·2020-08-17 17:27

集成学习—模型融合问题

文章目录一模型融合的问题1.1多数表决融合1.2加权表决融合1.3对结果取平均二Stacking&Blending2.1Stacking2.2Blending一模型融合的问题在集成学习中用到了模型融合，
SongpingWang·2020-08-17 17:46

集成算法-Boosting算法案例及推理过程

集成学习（EnsambleLearning）通过训练多个若学习器，然后将其按某种策略组合起来，从而达到最好的学习性能，提高算法的泛华能力。
weixin_43999733·2020-08-17 17:47

机器学习——决策树、随机森林（学习笔记）

分类与回归剪枝算法预剪枝后剪枝随机森林基本流程Outofbagerror(OOBE)优缺点boost算法Adaboost算法GBDT(GradientBoostingDecisionTree)算法XGBoost集成学习
XuZhiyu_·2020-08-17 17:38

集成学习

简介并不是所有的集成学习框架中的基学习器都是弱模型。弱模型是偏差高(在训练集上准确度低)方差小(防止过拟合能力强)的模型。
qingccc·2020-08-17 16:57

【机器学习－西瓜书】八、集成学习：Boosting

推荐阅读：多样性；Boosting；AdaBoost第八章集成学习8.1个体与集成关键词：集成学习；弱学习器；多样性集成学习（ensemblelearning美[ɑ:nˈsɑ:mbl]）通过构建并结合多个学习器
TensorSense·2020-08-17 15:32

周志华《Machine Learning》学习笔记（10）--集成学习

本篇将继续讨论下一类经典算法–集成学习。9、集成学习顾名思义，集成学习（ensemblelearning）指的是将多个学习器进行有效地结合，组建一个“学习器委
努力进行光合作用·2020-08-17 15:28

模型融合Blending 和 Stacking

构建并结合多个学习器来完成学习任务，我们把它称为模型融合或者集成学习。不同的模型有各自的长处，具有差异性，而模型融合可以使得发挥出各个模型的优势，让这些相对较弱的模型（学习器）通过某种策略结合起
予亭·2020-08-17 14:39

机器学习一些核心概念的解读文档汇总

2016-03-26-loss-function/k折交叉验证https://blog.csdn.net/weixin_40475450/article/details/80578943Adaboost集成学习
飞电或人·2020-08-17 14:28

快速了解集成学习

目录1.什么是集成学习2.Bagging算法3.Stacking算法4.Boosting算法1.什么是集成学习集成学习(ensemblelearning)是一类机器学习框架，通过构建并结合多个学习器来完成学习任务
Pr4da·2020-08-17 14:03

【集成学习】Boosting策略典型算法原理

集成学习集成学习是一种由多种弱学习器组合成强学习器的策略，主要分为3类：Boosting方法、Bagging方法、Stacking方法。
土豆洋芋山药蛋·2020-08-17 14:23

GBDT和xgboost

gradientboostdecisiontree）：梯度提升决策树；由多棵决策树组成，每棵决策树都是回归树randomforest（随机森林）：随机森林中的每棵树都是由从训练集中抽取的样本训练得到的；同时在构建树时随机选择特征xgboost集成学习序列集成方法
mambasmile·2020-08-17 13:43

集成学习-stacking算法

众所周知，集成学习算法，它将多个弱分类器集成起来，以达到较高的分类准确率。
Rnan-prince·2020-08-17 13:23

集成学习之机器学习比赛大杀器----模型融合(stacking & blending) 之通过多个kaggle竞赛分析模型融合的方法和效果

从https://mlwave.com/kaggle-ensembling-guide/翻译过来，对目前kaggle竞赛中使用的模型融合方法和效果进行了分析，并给出了使用模型融合的指导思想。怎样赢得机器学习比赛：你拿别人的结果和你自己的结果与做集成。——VitalyKuznetsovNIPS2014。集成模型是一种能在各种的机器学习任务上提高准确率的强有力技术。在这篇文章中，我会分享我在Kaggl
a flying bird·2020-08-17 13:03

集成学习---(Boosting) Adaboost

一、简介1、AdaBoost就是损失函数为指数损失的Boosting算法(当然这是后话，意思是指数损失的前向分步算法和Adaboost一致)二、细节1、算法流程2、最重要的两点误差率：==（也就是在一轮过后，误差率直接用分错样本的权重想加就可以了）（1）、弱分类器的权重如何确定权重仅仅由该分类器的分类误差率e决定，e的范围应该是[0,0.5],所以误差率越大，权重越小（2）、样本的权重如何确定样本
code-life·2020-08-17 13:26

理解集成学习Boosting思想之GBDT、XGBoost，附带案例

前言前面我们介绍了使用Boosting思想的AdaBoost，它是通过前一轮决策的结果来给样本设置权重，决策正确的权重减小，决策错误的权重增加；然后将加权后的数据集输入下一个弱学习器训练，直到达到训练停止条件。Boosting思想的GBDT、XGBoost，在目前的竞赛和工业界中使用非常频繁，能够有效的应用到分类、回归，更是因为近几年被应用于构建搜索排序的机器学习模型而引起广泛关注。虽然用起来不难
ouliangliang1·2020-08-17 13:33

深度学习论文笔记：Dropout: A Simple Way to Prevent Neural Networks from Overfitting

文章目录主要工作什么是Dropout运作模式灵感来源从集成学习的角度从有性繁殖的角度dropout是否是一个好的正则化技术？
菜到怀疑人生·2020-08-17 12:44

模型融合 Blending 和 Stacking

转载自https://tianle.me/2018/02/11/aggregate/构建并结合多个学习器来完成学习任务，我们把它称为模型融合或者集成学习。
cfm908826·2020-08-17 12:14

ensemble learning集成学习

于是就有人研究如何将弱学习器组合成强学习器（毕竟三个臭皮匠赛过诸葛亮，结合集体的智慧得到好的结果），一般将这一类的方法统称为集成学习。集成学习会要求基学习器“好而不同”。
Fron Suk·2020-08-17 11:19

集成学习之Boosting（一）Adaboost

1、前言最近项目用集成学习用的多，好好地复习了一遍集成学习的所有较为基础的知识，而这节我要讲的Boosting就是一种很常用的统计学习方法，以下是我总结的内容（跟着西瓜书和统计学习方法的思路来的），仅作为本人记录参考
请叫我Ricardo·2020-08-17 11:24

集成学习之Boosting（二）GBDT和XGBoost

1、前言上个月我说要写关于梯度提升树和XGBoost的博客，结果写比赛文档和做视频耽搁了，期间还专门读了读陈天齐的原论文（很简单的一篇论文，只需要一点英语功底就可以读起来毫不费劲），磨磨蹭蹭，终于可以开始写博客了。这篇博客我会简单介绍GBDT，和XGBoost的推导，毕竟XGBoost是基于GBDT的改进，还有XGBoost相对于CBDT的提升与工程化运用。本篇博客参考机器学习-一文理解GBDT的
请叫我Ricardo·2020-08-17 11:24

集成学习之模型融合（二）Blending

简介blending是和stack同性质的集成学习方法，都是通过组合多个弱学习器生成的输出作为最终学习器的输入而得到一个更好的结果，但是他们的数据划分方式有所区别，而且生成次级训练集的方法更简单了。
请叫我Ricardo·2020-08-17 11:24

机器学习——Boosting、提升树、随机森林（Random Forest）学习笔记

大数据工作室学习打卡第N次一、Boosting（提升）1.什么是集成学习？
咕嘟咕嘟怪·2020-08-17 10:42

python boosting集成算法 adaboost原理及基于numpy的代码实现

多个弱分类器叠加的方法3.numpy代码实现3.1代码3.2测试3.2.1获取测试数据，以及拆分训练集测试集3.2.2训练及预测3.2.3查看每个弱分类器的权重、错分率以及树的分支详情1.算法原理adaboost属于集成学习中的
Irvinfaith·2020-08-17 09:45

DeprecationWarning: The truth value of an empty array is ambiguous.等sklearn与numpy的一系列报错

最近在学集成学习，第一次用sklearn，运行时一堆警告，吓傻了。去stackoverflow上看了一下，是numpy的问题，在空数组上弃用了真值检查。
绯红的天国·2020-08-17 02:51

特征提取和深度学习的KPI异常检测方法—组合模型

该团队的思路是提取特征然后用集成学习的方法将异常检测转变为二分类问题，其思路与Opprentice很像。
iwtbs_kevin·2020-08-17 01:59

分类算法概述与比较

一、分类算法概述解决分类问题的方法很多，单一的分类方法主要包括：决策树、贝叶斯、人工神经网络、K-近邻、支持向量机和基于关联规则的分类等；另外还有用于组合单一分类方法的集成学习算法，如Bagging和Boosting
jackywu1010·2020-08-16 19:27

集成学习

目录定义集成学习方法的一般过程描述基础集成技术集成学习方法BaggingBagging算法流程BoostingStackingBlending优点：缺点：随机森林算法步骤：影响随机森林分类性能的主要因素
yingchundexiaoxiong·2020-08-16 17:43

集成学习笔记

具体地，创建差异（每个子模型是看样本数据的一部分）有两种方式：下面用代码来实现一个集成学习：准备数据：使用Bagging训练数据：n_estimators表示子模型的个数，max_samples表
少儿西笑·2020-08-16 16:40

集成学习-个人笔记

集成学习通过某种策略对单个学习器进行结合，通常可获得比单一学习器显著优越的泛化性能，因此在许多学习任务当中都应用了集成学习。
无语_人生·2020-08-16 16:35

scikit-learn Adaboost类库使用小结

在集成学习之Adaboost算法原理小结中，我们对Adaboost的算法原理做了一个总结。
weixin_34082695·2020-08-16 16:37

集成学习-学习笔记

集成学习：通过构建多个学习器完成学习任务。主要分为两类：1.多个学习器之间存在强依赖关系，必须串行生成序列化方法。代表为Boosting提升方法。
weixin_30649859·2020-08-16 15:10

集成学习笔记整理1

集成学习（集成方法）是一种解决问题的思想（不是具体的算法）。操作为将若干个基本评估器(分类器&回归器)进行组合，然后使用这些基本评估器来综合对未知样本进行预测。
sevieryang·2020-08-16 14:47

集成学习学习笔记（1）

集成学习集成学习，顾名思义就是将多个学习器集成在一起来完成某个任务。其一般结构为：先产生一组个体学习器；然后再用某种策略将这些个体学习器结合起来。
catchlove@@@·2020-08-16 14:08

集成学习--学习笔记

目录1.为什么需要集成学习？2.如何进行组合？
dujiahei·2020-08-16 12:44

百面机器学习总结笔记（第十二章 集成学习）

百面机器学习总结笔记（第十二章集成学习）百面机器学习总结笔记第十二章集成学习集成学习的种类集成学习的步骤和例子基分类器偏差与方差梯度梯度决策树的基本原理XGBoost与GBDT的联系和区别百面机器学习总结笔记第十二章集成学习集成学习的种类场景描述知识点
Avery123123·2020-08-16 11:24

集成学习（提升方法）

集成方法和提升学习其实都差不多，集成学习（EnsembleLearning）有时被笼统地称作提升（Boosting）方法，广泛用于分类和回归任务。
iownlucky·2020-08-16 11:01
上一页 30 31 32 33 34 35 36 37 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他