C4.5

C4.5算法深度解析：决策树进化的里程碑

C4.5是机器学习史上最经典的算法之一，由ID3之父RossQuinlan在1993年提出。

大千AI助手·2025-06-26 20:27

决策树算法

文章目录基本概念与原理决策树定义两种理解视角模型构建三要素1.特征选择(1)信息增益(ID3算法)(2)信息增益比(C4.5算法)(3)基尼指数(CART算法)2.决策树生成3.决策树剪枝(1)预剪枝(

雨巷码行人·2025-06-22 09:51

python机器学习算法之决策树入门讲解

说白了就是树模型，构造的是二叉树或者是多叉树，主要是三种树ID3，C4.5

2301_82059354·2025-04-30 15:14

决策树详解+面试常见问题

常用方法有信息增益（如ID3算法）、信息增益比（如C4.5算法）、基尼指数

心想事“程”·2025-04-23 02:28

遥感之机器学习树集成模型-C4.5算法

本文继续在前面几种决策树的基础上对C4.5进行说明。

遥感-GIS·2025-04-22 18:41

机器学习之决策树（ID3,C4.5,CRAT）

目录前言一、决策树二、如何建立决策树1.数据准备：选择合适的特征和数据集，这是建立决策树的基础。三.常见决策树的三种算法1.ID3（IterativeDichotomiser3）2.C4.53.CART（ClassificationandRegressionTrees）四.应用（三种算法的比较）1.引入库2.读入数据3.算法实现4.效果图五.总结前言决策树是一种基于实例的学习算法，它通过创建决策树

萧兮358·2025-04-21 20:56

机器学习经典算法：决策树原理详解

本文从核心原理（信息熵、基尼系数）、构建过程（ID3/C4.5/CART）、剪枝优化到Python代码实战，全方位解析决策树，并教你如何用Graphviz可视化树结构！目录一、什么是决策树？

xiaoyu❅·2025-03-27 20:37

决策树算法总结（上：ID3,C4.5决策树）

文章目录一、决策树原理1.1决策树简介1.2基本概念二、数学知识2.1信息熵2.2条件熵:2.3信息增益三、ID3决策树3.1特征选择3.2算法思路3.3算法不足四、C4.5决策树算法4.1处理连续特征

陈小虾·2025-01-29 10:18

python 连续比较_python实现连续变量最优分箱详解--CART算法

关于变量分箱主要分为两大类：有监督型和无监督型对应的分箱方法：A.无监督：(1)等宽(2)等频(3)聚类B.有监督：(1)卡方分箱法(ChiMerge)(2)ID3、C4.5、CART等单变量决策树算法

weixin_39834788·2024-09-07 13:50

Python机器学习笔记：CART算法实战

请点击我如果点击有误：https://github.com/LeBron-Jian/MachineLearningNote前言在python机器学习笔记：深入学习决策树算法原理一文中我们提到了决策树里的ID3算法，C4.5

战争热诚·2024-03-23 17:00

ApacheCN 交流社区热点汇总 2019.3

出国留学-微信讨论组自然语言处理（NLP）学习路线【每日一问】ID3、C4.5、C5.0和CART有什么联系、区别和优劣？【每日一问】假设模型准确率接近的情况下，模型融合越多越好吗？

布客飞龙·2024-02-14 21:40

[机器学习]决策树

其基本思想是以信息熵为度量构造一颗熵值下降最快的树，到叶子节点处，熵值为0具有非常好的可解释性、分类速度快的优点，是一种有监督学习最早提及决策树思想的是Quinlan在1986年提出的ID3算法和1993年提出的C4.5

LBENULL·2024-02-12 11:21

决策树模型： ID3 、C4.5、C5.0、CART、CHAID、Quest比较

一、决策树的核心思想决策树：从根节点开始一步步走到叶子节点（决策），所有的数据最终都会落到叶子节点，既可以做分类也可以做回归。树的组成 -根节点（rootnode）：第一个选择点，有零条或者多条出边的点； -内部点（internalnode）：只有一条入边并且有两条或多条出边的点； -叶节点（leafnode）：最终的决策结果；决策树学习的目的是为了产生一颗泛化能力强，即处理未见示例

cy^2·2024-02-08 20:51

5000字干货 | 决策树、随机森林、bagging、boosting、Adaboost、GBDT、XGBoost总结

下图是决策树的一个示例图：根据分割指标和分割方法，可分为：ID3、C4.5、CART算法。1.ID3算法：以信息增益为准则来选择最优划

数据不吹牛·2024-02-07 23:36

机器学习之决策树（二）

于是我们就要用到剪枝，剪掉对于分类并不重要的模型特征，从而达到全局最优用于ID3与C4.5的剪枝算法为什么说是用于ID3与C4.5的剪枝算法呢？因为与

Vophan·2024-02-06 16:15

01-16

今天看的是算法部分，首先就是C4.5决策树算法，能够对离散型信息数据进行操作，同时补充有属性缺失的相关数据，在决策树构造过程中进行删减处理。

姬汉斯·2024-02-04 02:06

决策树基础知识点解读

目录ID3算法C4.5算法CART树ID3算法定义:在决策树各个结点上应用信息增益准则选择特征，递归的构建决策树。该决策树是多分支分类。

futurewq·2024-02-03 13:04

mym_74·2024-02-03 13:34

ID3决策树算法及其Python实现

目录一、决策树算法基础理论决策树的学习过程ID3算法二、实现针对西瓜数据集的ID3算法实现代码三、C4.5和CART的算法代码实现C4.5算法CART算法总结参考文章一、决策树算法决策树是一种基于树结构来进行决策的分类算法

Sue hiroshi·2024-01-30 14:53

C4.5决策树的基本建模流程

C4.5决策树的基本建模流程作为ID3算法的升级版，C4.5在三个方面对ID3进行了优化：（1）它引入了信息值（informationvalue）的概念来修正信息熵的计算结果，以抑制ID3更偏向于选择具有更多分类水平的列进行展开的情况

今天也要加油丫·2024-01-24 11:09

ID3, C4.5和CART的异同点

ID3,C4.5和CART都是决策树算法，它们在数据挖掘和机器学习中被广泛应用。下面是它们的一些异同点：相同点：都是用于构建决策树的算法，可以用于分类和回归问题。

今天也要加油丫·2024-01-24 11:35

数据挖掘|决策树算法以及相关算法实现和例题讲解

出处来源：分类问题：决策树+ID3算法+C4.5算法+考试例题讲解_哔哩哔哩_bilibili资料整理：链接：https://pan.baidu.com/s/1q786VaYJ9-1G7ZdfC6KL7A

封印师请假去地球钓鱼·2024-01-16 05:40

决策树（公式推导+举例应用）

文章目录引言决策树学习基本思路划分选择信息熵信息增益增益率（C4.5）基尼指数（CART）剪枝处理预剪枝（逐步构建决策树）后剪枝（先构建决策树再剪枝）连续值与缺失值处理连续值处理缺失值处理结论实验分析引言随着信息时代的发展

Nie同学·2024-01-12 14:56

11.决策树的划分基础：信息熵

划分的方法也多种多样，有ID3，C4.5，CART等。

坛城守护者·2024-01-10 20:22

决策树模型

决策树有很多类型，基本的有ID3决策树，C4.5决策树，CART决策树，他们主要经过三个步骤，特征选择，生成决策树，决策树剪枝。

歌者文明·2024-01-07 11:38

机器学习一些概念

SVM：最大间隔的优化模型CART算法ID3算法GINI算法C4.5算法Novikoff定理：模糊C均值算法：J(U,V)=∑i=1n∑j=1kuijmdij2∑j=1kuij=1,uij∈[0,1]J

satadriver·2024-01-02 08:43

XGBoost理论推导+论文解读-下篇

而增益的计算方式比如ID3的信息增益，C4.5的信息增益率，CART的Gini系数等。

金鸡湖最后的张万森·2023-12-31 23:24

决策树-ID3，C4.5，CART

决策树直观上，决策树是一个树结构，从根节点开始，测试待分类项中相应的特征属性（每次只测一个特征维度），并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果西瓜书里的图在挑西瓜模型中，首先判断纹理这一特征维度，分成了3个数据集，其中模糊纹理这一波直接是叶子节点，存放决策结果。而从数据的特征空间角度，决策树则是把整个特征空间划分成了若干个超立方体。就像魔方可以是均分空间更多的是不

莱昂纳多91·2023-12-25 09:15

（14）监督学习-分类问题-决策树

决策树算法分为ID3，C4.5，CART几种。其主要区别在于特征选择的方法不同。

顽皮的石头7788121·2023-12-23 19:27

决策树相关算法_ID3_C45_信息熵_剪枝

决策树算法的主要思想源于Quinlan在1986年提出的ID3算法和1993年提出的C4.5算法，以及由Breiman等人在1984年提出的CART算法，其主要优点是：可读性；分类速度快。

沉住气CD·2023-12-23 11:00

机器学习算法基础——分类模型（二）

今天我们继续介绍另外两种基础的分类算法：决策树和随机森林，本期分享的主要任务就是要讨论决策树的生成方法，包括ID3算法、C4.5算法和CART算法，并通过清晰易懂的应用实例解释说明算法的实现细节。

三翼鸟数字化技术团队·2023-12-22 06:02

notes2

机器学习ROC曲线、AUC、PR曲线等决策树，ID3、C4.5、CART决策树，随机森林、Adaboost、GBDT决策树，XGBoost、LightGBM逻辑回归，L1L2正则化熵，KL散度，交叉熵micro-f1

lym94·2023-12-18 14:53

【机器学习入门】决策树算法（三）：C5.0算法

简介：C5.0算法是昆兰在C4.5算法的基础上提出的商用改进版本，目的是对含有大量数据的数据集进行分析。计算过程：C5.0算法的训练过程大致如下。

学不死的狗·2023-12-17 11:59

决策树 C4.5算法

C4.5算法C4.5算法C4.5算法是Ross对ID3算法的改进用信息增益率来选择属性。

小小程序○·2023-12-06 15:53

分类算法-----决策树(包括ID3，C4.5)

第一篇：决策树学习（MachineLearning&DataMining）引言最近在面试中，除了基础&算法&项目之外，经常被问到或被要求介绍和描述下自己所知道的几种分类或聚类算法(当然，这完全不代表你将来的面试中会遇到此类问题，只是因为我的简历上写了句：熟悉常见的聚类&分类算法而已)，而我向来恨对一个东西只知其皮毛而不得深入，故写一个有关数据挖掘十大算法的系列文章以作为自己备试之用，甚至以备将来常

Yt_Sports·2023-11-30 20:56

决策树：从根到叶的智慧之路

1.信息熵Entropy2.信息增益InformationGain（ID3算法）3.增益率GainRatio（C4.5算法）4.基尼指数GiniIndex（CART算法）何时停止分割？

_用户昵称_·2023-11-29 14:55

python机器学习：决策树与随机森林（6）

决策树与随机森林决策树部分python机器学习：决策树关于CART与ID3,C4.5附代码（4）随机森林部分#coding=utf-8importnumpyasnpimportdecision_treeclassRandomForest

HarryStudyPython_ing·2023-11-29 11:33

用最简单的语言来解释一下数据挖掘的十大算法

1.C4.5算法C4.5是做什么的？C4.5以决策树的形式构建了一个分类器

zdy0_2004·2023-11-25 14:39

机器学习算法——集成学习1（个体与集成）

如C4.5决策树算法、BP神经网络等。集成中只包含同种类型的个体学习器，例如“决策树集成”中全是决策树，“神经网络集成”中全是神经网络，这样的集成是“同质”的。同质集成中的个体学习也称为

Vicky_xiduoduo·2023-11-22 08:41

十大经典算法

十大经典算法：C4.5算法是机器学习算法中的一种分类决策树算法；其核心算法是ID3算法，C4.5集成了ID3算法的优点且对以下方面做了修改。

doublewei1·2023-11-19 23:34

100天搞定机器学习|Day23-25 决策树及Python实现

image算法部分不再细讲，之前发过很多：【算法系列】决策树决策树（DecisionTree）ID3算法决策树（DecisionTree）C4.5算法决策树（DecisionTree）CART算法ID3

统计学家·2023-11-19 07:39

【Python】利用决策树分类器对鸢尾花进行分类

1.2生成算法ID3(信息增益)C4.5(信息增益率)CARTClassificationandRegressionTree(基尼系数)1.3决策树修剪指决

~来了小老弟·2023-11-12 08:08

机器学习---决策树算法梳理

决策树算法梳理任务3-决策树算法梳理1、信息论基础（熵联合熵条件熵信息增益基尼不纯度）2.决策树的不同分类算法（ID3算法、C4.5、CART分类树）的原理及应用场景3、回归树原理4、决策树防止过拟合手段

言成苟文·2023-11-09 22:54

【机器学习】决策树（上）——ID3、C4.5、CART（非常详细）

本文为转载，原文链接【机器学习】决策树（上）——ID3、C4.5、CART（非常详细）-阿泽的文章-知乎https://zhuanlan.zhihu.com/p/85731206决策树是一个非常常见并且优秀的机器学习算法

Jarkata·2023-11-05 14:51

统计学习方法决策树

文章目录统计学习方法决策树决策树模型与学习特征选择决策树的生成ID3算法C4.5的生成算法决策树的剪枝CART算法CART回归树的生成CART分类树的生成CART剪枝统计学习方法决策树阅读李航的《统计学习方法

Air浩瀚·2023-10-30 04:14

决策树挑出好西瓜

Entropy=系统的凌乱程度，使用算法ID3,C4.5和C5

M1_n·2023-10-27 14:59

吃瓜教程3——决策树（西瓜书第四章）

目录一、算法原理从几何角度理解最终目的二、ID3决策树自信息信息熵信息增益ID3决策树三、C4.5决策树增益率一、算法原理从几何角度理解根据某种准则划分特征空间最终目的将样本越分越“纯”二、ID3决策树自信息信息熵

雾里看花的学习日常·2023-10-26 22:12

吃瓜教程ML--笔记三--决策树

吃瓜教程ML--笔记三--决策树什么是决策树3种决策树ID3决策树（IterativeDichotomiser）熵(entropy)信息增益C4.5决策树增益率CART决策树(ClassificationAndRegressionTree

暴走小辉·2023-10-26 22:12

吃瓜教程3|决策树

ID3算法假定当前样本集合D中第k类样本所占比例为pk，则样本集合D的信息熵定义为信息增益C4.5算法ID3算法存在一个问题，就是偏向于取值数目较多的属性，因此C4.5算法使用了“增益率”（gainratio

fof920·2023-10-26 22:03

推荐频道