集成学习

机器学习-集成学习LightGBM

前言LightGBM是微软开发的一个强大的开源梯度提升框架。它旨在高效和可扩展，能够处理大型数据集和高维特征。LightGBM结合使用基于梯度的单边采样（GOSS）和独占特征捆绑（EFB）来降低计算成本并提高模型的准确性。LightGBM支持各种目标函数，可用于回归和分类问题。它还提供了一些高级功能，例如提前停止、交叉验证和超参数调整，以帮助用户构建稳健的模型。此外，它还为流行的编程语言（如Pyt
·2023-02-21 10:49

机器学习-集成学习XGBoost

前言XGBoost(eXtremeGradientBoosting)是一种流行的机器学习算法，用于解决各种预测问题，例如分类、回归和排名。在本文中，我们将介绍XGBoost的基本原理、常见的应用和一些实践经验.基本原理XGBoost是一种基于梯度提升决策树(GradientBoostingDecisionTrees)的机器学习算法。其基本原理是通过将多个决策树组合成一个强大的模型，从而提高预测准确
·2023-02-20 12:18

StackingClassifier

写在前面scikit-learn官网的Ensemblemethods文档部分只介绍了/bagging/boosting/voting/三种模型组合方式;但是通过查找学习，受周志华《机器学习》集成学习部分的学习法启发
taojinglong·2023-02-19 05:08

集成学习-boosting

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档集成学习-boosting前言boosting方式的思路adaboostadaboost原理adaboost性能分析前言boosting方法主要是对同一组数据进行反复训练
无盐薯片·2023-02-17 18:42

机器学习-集成学习GBDT

前言GBDT（GradientBoostingDecisionTrees）是一种基于决策树的集成学习算法，它通过逐步地训练多个决策树模型来提高预测性能。
·2023-02-17 10:08

【集成学习系列教程2】AdaBoost回归算法原理及sklearn应用

文章目录4AdaBoost回归算法4.1概要4.2算法步骤4.3sklearn中的AdaBoost回归4.3.1原型4.3.2参数4.3.3属性4.3.4常用方法4.4实例3：使用AdaBoostRegressor完成回归任务4.4.1数据集的创建与可视化4.4.2不同参数的AdaBoost回归器拟合效果对比4AdaBoost回归算法4.1概要AdaBoost算法不仅可以用于分类任务，还可以用于回
Juicy B·2023-02-17 00:40

模式识别和机器学习实战- 集成学习- Python实现 - AdaBoost算法

实战基于单层决策树构建弱分类器1.简单数据集构建2.建立单层决策树三、完整AdaBoost实现以及测试算法附加题：实战之房价预测完整代码前言我们在思考一个问题的时候，往往会考虑多个意见而不会只听一家之言，集成学习正是基于这种想法发展来的
能智工人_Leo·2023-02-16 23:35

西瓜玲子6.2打卡日记

Datawhale零基础入门CV赛事-Task5模型集成（一）集成学习集成方法是将几种机器学习技术组合成一个预测模型的元算法，以达到减小方差（bagging）、偏差（boosting）或改进预测（stacking
爱动脑筋的西瓜玲子·2023-02-16 21:15

机器学习-随机森林

前言随机森林（RandomForest）是一种基于决策树的集成学习方法，它通过构建多个决策树来提高预测准确性和稳定性。在本文中，我们将介绍随机森林的原理、优点和缺点，以及它在机器学习中的应用。
·2023-02-16 20:15

集成学习、Bagging集成原理、随机森林构造过程、随机森林api与案例、boosting集成原理、梯度提升决策树(GBDT）、XGBoost与泰勒展开式

一、集成学习集成学习：通过建立几个模型来解决单一预测问题，工作原理是生成多个分类器/模型，各自独立地学习和作出预测。
learning-striving·2023-02-07 11:58

关于机器学习方面的名词解释

是使用算法来解析数据，从中学习，然后对真实世界中的时间做出决策和预测机器学习使用大量的数据来‘训练’，通过各种算法从数据中学习如何完成任务从学习方法上来分，机器学习算法可以分为：监督学习、无监督学习、半监督学习、集成学习
洛水卿卿·2023-02-07 11:27

机器学习集成学习-BOOSTING与BAGGING

集成算法（EmsebleLearning）是构建多个学习器，然后通过一定策略结合把它们来完成学习任务的，常常可以获得比单一学习显著优越的学习器。用于减少方差的bagging用于减少偏差的boosting目录1.BAGGING:2.BOOSTING：3梯度提升算法GradientBoosting：3.1梯度下降法3.1.1用泰勒公式表示损失函数：3.2从梯度下降法到梯度上升法：3.3梯度提升原理推导
yonsan_·2023-02-07 11:48

集成学习（bagging与boosting）

集成学习（bagging与boosting）算法比较方差与偏差将多个弱学习器进行结合，从而获得比单一学习器显著优越的泛化性能。主要分为bagging和boosting两种集成方法。
yangyi_hust·2023-02-07 11:48

集成学习（2）— bagging和boosting

集成学习大致可分为两大类：Bagging和Boosting;Bagging一般使用强学习器，其个体学习器之间不存在强依赖关系，容易并行。
orangerfun·2023-02-07 11:40

集成学习04-分类问题

使用sklearn构建完整的分类项目：（1）收集数据集并选择合适的特征（2）选择度量模型性能的指标（3）选择具体的模型并进行训练（4）评估模型的性能并调参度量模型性能的指标4种情况：真阳性TP：预测值和真实值都为正例；真阴性TN：预测值与真实值都为正例；假阳性FP：预测值为正，实际值为负；假阴性FN：预测值为负，实际值为正；分类模型的指标：准确率：分类正确的样本数占总样本的比例，即：精度：预测为正
cookie222·2023-02-07 11:04

集成学习05-Bagging

集成学习属于模型融合的一部分，常见的集成学习包括Bagging、Boosting、Stacking等。
cookie222·2023-02-07 11:04

集成学习02-回归问题

要求：掌握机器学习回归的原理，并使用sklearn进行回归应用。使用sklearn构建机器学习项目流程：一般来说，一个完整的机器学习项目分为以下步骤：明确项目任务：回归/分类收集数据集并选择合适的特征。选择度量模型性能的指标。选择具体的模型并进行训练以优化模型。评估模型的性能并调参。回归模型：1.线性回归模型(a)最小二乘估计：损失函数：可直接求权重：注：为什么误差函数不用|y-yreal|？首先
cookie222·2023-02-07 11:04

集成学习03-偏差与方差理论

目录1.训练均方误差与测试均方误差2.偏差-方差的权衡3.估计测试误差4.特征提取的3种方式5.模型调优（针对超参数）在选择基础模型后，下一步要优化模型，以达到更好的预测效果。1.训练均方误差与测试均方误差对于均方误差，即：如果我们所用的数据是训练集上的数据，那么这个误差为训练均方误差，如果我们使用测试集的数据计算的均方误差，我们称为测试均方误差。训练模型的最终目的是使测试误差达到最小，而不是训练
cookie222·2023-02-07 11:04

集成学习 Boosting与Bagging

集成学习是通过将多个分类器组合在一起的方式，构建出一个强分类器。
chaichai1997·2023-02-07 11:33

集成学习（Boosting、Bagging）

集成学习通过构建并结合多个学习器来提升性能在一定条件下，随着集成分类器数目的增加，集成的错误率将指数级下降，最终趋向于0。
夕述·2023-02-07 11:01

《机器学习》笔记

类别不平衡问题第4章决策树4.1基本流程4.2划分选择4.2.1信息增益4.2.2增益率4.3剪枝处理4.5多变量决策树第6章支持向量机6.1间隔与支持向量6.3核函数6.4软间隔与正则化6.5支持向量回归第8章集成学习
damonzheng46·2023-02-06 13:59

机器学习算法，机器让我学习（3）

这个小段的内容主要是朴素贝叶斯、支持向量机、决策树和集成学习的代码，看不懂..........后面的更是看不懂..................朴素贝叶斯：scikit-learn提供了伯努利，多项式
weixin_30595035·2023-02-05 08:18

8、集成学习知识点

集成学习知识点集成学习是一种机器学习范式，多个学习器被训练来解决同一个问题。与普通的机器学习方法试图从训练数据中学习一个假设不同，集成方法试图构建一组假设并将它们组合起来。
爱补鱼的猫猫·2023-02-04 09:48

Datawhale 零基础入门CV赛事-Task5 模型集成

测试集数据扩增（TestTimeAugmentation，简称TTA）也是常用的集成学习技巧，数据扩增不仅可以在训练时候用，而且可以同样在预测时候进
咕咕咕咕咯咯·2023-02-04 02:35

快速弄懂机器学习里的集成算法：原理、框架与实战（三）

(1)Boosting算法基于boosting的集成学习，不同的个体学习器是通过串行一
博观厚积·2023-02-03 13:30

集成学习

集成学习与个体学习器集成学习是机器学习中常用的一种方法，常用的集成学习方法有boosting,bagging以及随机森林，前者基学习器相互之间有着较大关联的一种集成学习方法，后两者是基学习器之间较为独立的集成学习方法
建设路寡妇村村长·2023-02-03 09:12

【ML】GBDT、Xgboost和LightGBM的模型理解

文章目录一、问题背景二、集成学习1.集成学习分三类：2.
郝同学·2023-02-03 09:15

人工智能时代八大类算法你了解吗？（包邮送书6本）

文章目录本文导读1.关联规则分析2.回归分析3.分类分析4.聚类分析5.集成学习6.自然语言处理7.图像处理8.深度学习9.书籍推荐（包邮送书6本）本文导读从零带你了解人工智能时代需要掌握的8大类算法，
无 羡ღ·2023-02-02 09:12

《百面机器学习》-- 集成学习分那几种，他们有何异同？

最近使用树模型较多，所以从集成学习入手。问题：集成学习分那几种，他们有何异同？
践行者Doer·2023-02-02 01:46

实用机器学习笔记-第五章-集成学习

一、集成学习1.统计学习中的衡量模型指标1.1偏差：学习到的模型和真实模型之间的位移1.2方差：学习到的东西差别有多大1.3示意图1.4偏差-方差公式泛化误差:Ed[(y−f^(x)2)]=Bias[f
11408考研休息室·2023-01-31 09:15

【Ensemble Learning】第 2 章：混合训练数据

建立对混合训练数据如何在集成学习中取得良好表现的直观理解引入决策树查看使用scikit-learn的决策树实现示例引入随机森林作
Sonhhxg_柒·2023-01-30 09:08

【Ensemble Learning】第 4 章：混合组合

在前面的章节中，我们讨论了如何混合训练数据，以及如何混合机器学习模型来创建更强大的模型——利用集成学习的力量。让我们继续这个学习过程。
Sonhhxg_柒·2023-01-30 09:08

集成学习将数据投影到高维建模

我们知道，运用核方法可以将低维的数据集映射到高维中，除了核方法，还可以利用集成学习将已知的样本集映射到高维中，从而让高维的数据更好的分类。
李涛AT北京·2023-01-29 17:53

随机森林算法简介

1.什么是随机森林随机森林是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习（EnsembleLearning）方法。
YUAnthony·2023-01-29 13:24

集成学习---(Bagging) RandomForest

一、简介https://www.cnblogs.com/maybe2030/p/4585705.html鉴于决策树容易过拟合的缺点，随机森林采用多个决策树的投票机制来改善决策树，我们假设随机森林使用了m棵决策树，那么就需要产生m个一定数量的样本集来训练每一棵树，如果用全样本去训练m棵决策树显然是不可取的，全样本训练忽视了局部样本的规律，对于模型的泛化能力是有害的产生n个样本的方法采用Bootstr
code-life·2023-01-29 13:53

随机森林详解

  随机森林（RandomForest）是属于集成学习的一种组合分类算法，集成学习的核心思想就是将若干个弱（基）分类器组合起来，得到一个分类性能显著优越的强分类器。
Sven0126·2023-01-29 13:23

【随机森林】深入浅出讲解随机森林算法

1、集成学习介绍常言道：“一个篱笆三
程序遇上智能星空·2023-01-29 13:22

Day07-集成学习-机器学习-投票法(DataWhale)

一、投票法1.1介绍原理遵循少数服从多数原则，通过多个模型的集成降低方差。理想情况，投票法的预测效果优于任何一个基模型的预测结果分类回归投票法：预测结果是所有模型预测结果的平均值分类投票法：预测结果是所有模型中出现最多的预测结果硬投票：所有投票结果出现最多的类软投票：所有投票结果中概率和平均最大的类原则想要投票法产生较好的结果，需要满足:基模型之间的效果不能差别很大。当某个模型相对于其他基模型效果
liying_tt·2023-01-29 13:18

集成学习-提升（boosting）方法

1提升方法1.1概率近似正确（PAC）学习框架在概率近似正确（PAC）学习框架中，一个概念，如果存在一个多项式的学习算法能够学习它，并且正确率很高，那么就称这个概念是强可学习的；一个概念，如果存在一个多项式的学习算法能够学习它，但正确率仅比随机猜测好一点，则称这个概念是弱可学习的。强可学习和弱可学习是等价的。因此，若发现了弱学习器，可以将其提升为强学习器.1.2提升方法的问题如何在每一轮训练中改变
DeepNLPLearner·2023-01-29 07:14

从集成学习到XGBoost算法

XGBoost一.XGBoost的前世今身1.集成学习(三个臭皮匠赛过诸葛亮)①集成学习通过构建并结合多个学习器来完成学习任务。
Pastore_Zx·2023-01-29 05:13

机器学习框架梳理(笔记汇总)

对于监督学习，包含线性模型、决策树、神经网络、支持向量机、贝叶斯分类、集成学习。对于无监督学习，包含：聚类、降维与度量学习、特征选择与稀疏学习、计算学习理论。
抄书侠·2023-01-29 03:12

机器学习算法（5）—— 集成学习算法

集成学习算法1集成学习介绍2Bagging介绍2.1Bagging集成原理2.2随机森林2.2.1随机森林的构造2.2.2包外估计2.2.3随机森林api介绍2.2.4随机森林案例2.3Bagging小结
夏木夕·2023-01-28 14:14

机器学习---集成学习

集成学习：使成多个分类器模型，各自独立学习和做出预测；最后结合组合预测。
灰太狼家的小鸭子·2023-01-28 14:42

《深度学习入门》（俗称：鱼书）读书笔记-第八章（深度学习）

除此之外提高识别精度的方法：1.集成学习2.学习率衰减3.数据扩充（对元素数据进行旋转，平移等的微小变化）增加数据数量。加深层的好处：1.可以减少网络的参数数量。
呆瓜种呆瓜·2023-01-28 13:24

周志华《机器学习》读书记录

周志华《机器学习》读书记录（8）第八章集成学习课后习题这章主要讲了融合算法包括1.Boosting（Adaboost）将一个弱学习器提升为强学习器2.Bagging（并行式集成学习）让我没想到的是随机森林算法也是并行式集成学习的一种
GundamDyname·2023-01-27 17:10

【机器学习】周志华西瓜书第八章集成学习习题8.5--编程实现Bagging模型，以决策树桩为基学习器，在西瓜数据集3.0a上训练一个Bagging集成，并与教材图8.6进行比较。

（1）问题理解与分析编程实现Bagging模型，以决策树桩为基学习器，在西瓜数据集3.0a上训练一个Bagging集成，并与教材图8.6进行比较。（2）Bagging算法原理阐述若想得到泛化性能强的集成，集成中的个体学习器应尽可能相互独立；虽然“独立”在现实任务中无法做到，但可以设法使基学习器尽可能具有较大的差异。给定一个训练数据集，一种可能的做法是对训练样本进行采样，产生出若干个不同的子集，再从
弓长纟隹为·2023-01-27 17:40

datawhale 10月学习——树模型与集成学习：集成模式

前情回顾决策树CART树的实现结论速递本章节从误差的来源入手，结合数学公式推导，了解了集成模型的目的，随后学习了集成学习的几种方法，分别是基础的bagging和boosting，还有stacking和blending
SheltonXiao·2023-01-27 12:21

高光谱目标检测论文学习（6）—— Bayesian Constrained Energy Minimization for Hyperspectral Target Detection

前言之前我们我们学习了HCEM和ECEM两种CEM的改进方法，这两种方法的相同点是都考虑了实际情况，加入了非线性检测的部分，从而提升了检测性能，不同的是一个主要是采用分层迭代的思想，一个采用集成学习、级联检测的思想
MrBamboo2000·2023-01-27 09:39

高光谱目标检测论文学习（5）—— Ensemble-Based Cascaded CEM for HTD

CEM作为一种检测器，其与分类器在很大程度上是极其相似的，而随着机器学习的兴起，集成学习成为提升分类器性能的一大重要方法。
MrBamboo2000·2023-01-27 09:38

决策树的value是什么意思_从零开始的机器学习实用指南(六)：决策树

=）决策树也是很多集成学习的组件，比如随机森林和梯度提升树等等决策树的训练和可视化还是以熟悉的iris数据集为例：首先训练一个决策树模型，然后做一些可视化，使用export_graphviz()方法，通过生成一个叫做
weixin_39674414·2023-01-26 09:45
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他