决策树算法

从零开始学习机器学习五：决策树算法&特征工程

决策树的划分依据二-信息增益率2.4决策树的划分依据三-基尼值和基尼指数2.5常见决策树类型比较3cart剪枝3.1为什么需要剪枝3.2常用剪枝方法4特征工程-特征提取4.1定义4.2字典特征提取4.3文本特征提取5决策树算法
火航·2023-11-09 22:19

唐宇迪学习笔记11：决策树算法

目录一、决策树算法概述1、树模型2、树的组成3、决策树的训练与测试训练阶段测试阶段二、熵的作用1、如何切分特征(选择节点)问题想象一下目标2、衡量标准-熵熵熵值公式举例三、信息增益原理1、熵值2、信息增益四
小丑呀~·2023-11-07 16:24

FlyAI小课堂：python机器学习笔记：深入学习决策树算法原理

分类技术（或分类法）是一种根据输入数据建立分类模型的系统方法，分类法的例子包括决策分类法，基于规则的分类法，神经网络，支持向量机和朴素贝叶斯分类法。这些技术都使用一种学习算法（learningalgorithm）确定分类模型，该模型能够很好的拟合输入数据中类标号和属性集之间的联系，学习算法得到的模型不仅要很好地拟合输入数据，还要能够正确的预测未知样本的类标号。因此，训练算法的主要目标就是建立具有很
iFlyAI·2023-11-07 16:50

python机器学习笔记：ID3决策树算法实战

ID3算法是一种贪心算法，用来构造决策树，ID3算法起源于概念学习系统（CLS），以信息熵的下降速度为选取测试属性的标准，即在每一个节点选取还尚未被用来划分的具有最高信息增益的属性作为划分标准，然后继续这个过程，直到生成的决策树能完美的分类训练样例。在此之前，推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站
iFlyAI·2023-11-07 16:20

第九章《搞懂算法:决策树是怎么回事》笔记

决策树算法是机器学习中很经典的一个算法，它既可以作为分类算法，也可以作为回归算法。
Mamong·2023-11-07 16:16

决策树算法的实现

决策树是一种机器学习算法，它类似于人脑思考问题的过程。我们可以通过问一系列的问题来逐步缩小答案的范围，最终得到最终的答案。比如说，我们想要预测一个人是否会购买某个产品，我们可以通过一系列的问题来缩小预测范围。例如，我们可以先问一个最重要的问题：“这个人是否已经购买了这个产品？”如果答案是“是”，那么我们就可以确定这个人会购买这个产品；如果答案是“否”，那么我们就需要进一步询问其他问题，比如“这个人
人工智能教学实践·2023-11-04 11:49

决策树算法

决策树算法是一种用于分类和回归问题的机器学习算法。它通过构建树形结构来进行决策，每个内部节点代表一个特征或属性，每个叶子节点代表一个类别或值。
人工智能教学实践·2023-11-04 11:16

决策树算法处理分类及回归问题的原理及python代码实现

1.决策树原理介绍通俗的理解，决策树就是对样本集根据某一个维度d和某一个阈值v进行二分，得到二叉树，即为决策树。通过样本训练计算出维度d和阈值v，即可对预测数据进行分类，如果对二叉树的各子节点value值求平均，将平均值赋予待分类样本，即完成待测样本的回归预测。1.1决策边界的划分最佳阈值能够最大限度的把样本区分开，让其各自分类中单一类别比重最大，使其分类确定性更大。阈值的选取是来自特征向量相邻两
南山十一少·2023-11-03 09:37

绘制决策树的决策空间

reference:scikit-learn决策树算法类库使用小结fromitertoolsimportproductimportnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasetsfromsklearn.treeimportDecisionTreeClassifier
Avalonist·2023-11-01 20:16

机器学习 | 决策树算法

一、决策树算法概述1、树模型决策树：从根节点开始一步步走到叶子节点(决策)。所有的数据最终都会落到叶子节点，既可以做分类也可以做回归。
西皮呦·2023-10-30 05:29

机器学习之分类决策树与回归决策树—基于python实现

本期为大家介绍决策树算法，它一种基学习器，广泛应用于集成学习，用于大幅度提高模型的预测准确率。
带我去滑雪·2023-10-29 21:34

机器学习算法-决策树模型及小案例

机器学习算法-决策树模型及小案例一、决策树算法原理1、定义2、原理二、决策树算法小案例1、数据挖掘流程2、根据流程实现决策树算法（1）读取数据（2）探索性数据分析（3）数据清洗（4）特征筛选（5）数据预处理
AKlian·2023-10-29 21:58

在西瓜数据集上用Python实现ID3决策树算法完整代码

在西瓜数据集上用Python实现ID3决策树算法完整代码文章目录1、决策树算法代码ID3.py2、可视化决策树代码visual_decision_tree.py3、贴几张运行结果图1、生成的可视化决策树
一只水熊虫·2023-10-27 13:55

机器学习的常用算法（生信必备）

决策树算法算法思想决策树（decisiontree）是一个树结构（可以是二叉树或非二叉树）。其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个
单细胞空间交响乐·2023-10-27 08:32

吃瓜教程Task 3 决策树算法

本章介绍的是决策树算法，决策树算法是一类非参的模型，在学习过程中没有显式的参数训练过程。一:如何生成决策树？
Lennon �·2023-10-26 22:35

吃瓜笔记04 决策树

机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集_哔哩哔哩_bilibili）目录第4章决策树4.1算法流程4.2划分选择4.3剪枝处理4.4连续与缺失值4.5多变量决策树第4章决策树4.1算法流程决策树算法
cookie222·2023-10-26 22:05

机器学习实战——决策树算法

点击查看：数据集+代码决策树该流程图就是一个决策树，长方形代表判断模块（decisionblock），椭圆形代表终止模块（terminatingblock），表示已经得出结论，可以终止运行。从判断模块引出的左右箭头称作分支（branch），它可以到达另一个判断模块或者终止模块。决策树ID3算法上一篇的k-近邻算法可以完成很多分类任务，但是它最大的缺点就是无法给出数据的内在含义，决策树的主要优势就在
if 雨田人尹＝＝雷伊：·2023-10-26 04:15

【Python机器学习】零基础掌握LinearDiscriminantAnalysis判别分析

简单的逻辑回归或决策树算法虽然有用，但有时候需要更精细和强大的工具来解决更复杂的分类问题。假设医生希望根据患者的年龄、体重、身高和血糖四个指标来预测患者是否有高血压的风险。
Mr数据杨·2023-10-23 14:29

决策树算法在Python中的实现

决策树算法在Python中的实现决策树是一种常用的机器学习算法，它是一种基于树结构的分类器，可以用于解决分类和回归问题。在本文中，我们将探讨如何在Python中实现决策树算法，并提供相应的源代码。
星光璀璨技术之心·2023-10-22 19:03

Python实现决策树算法

Python实现决策树算法决策树是一种常用的机器学习算法，用于解决分类和回归问题。它基于树形结构来进行决策，并根据特征的值将数据集划分为不同的子集。
后端架构魔法构筑者·2023-10-22 19:02

如何在Python中实现一个决策树算法？

本文将通过对决策树算法的基本原理和具体实现过程，带领读者一步步了解其工作原理。本文假定读者具备相关机器学习基础知识，比如机器学习的相关理论、算法、模型等
禅与计算机程序设计艺术·2023-10-22 19:32

深入浅出理解决策树算法（一）-核心思想

算法思想决策树（decisiontree）是一个树结构（可以是二叉树或非二叉树）。其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。总结来说：决策树模型核心是下面几部分：结点和有向边组成结点有
bidianzhang·2023-10-22 05:36

深入浅出理解决策树算法（二）-ID3算法与C4.5算法

从深入浅出理解决策树算法（一）-核心思想-知乎专栏文章中，我们已经知道了决策树最基本也是最核心的思想。那就是其实决策树就是可以看做一个if-then规则的集合。
bidianzhang·2023-10-22 05:36

机器学习 | Python决策树算法

基本原理决策树的基本原理是将数据分成不同的子集，使每个子集尽可能纯净。这意味着子集中的数据属于同一类别或具有相似的属性。为了做到这一点，决策树会选择一个特征，并根据该特征将数据分成两个子集。它会选择那个特征，该特征在划分后的子集中具有最好的纯度，通常使用一种叫做“信息增益”的指标来衡量。公式解释信息熵（Entropy）信息熵是衡量数据纯度的指标。对于一个数据集，信息熵的计算公式如下：其中，是数据集
码农腾飞·2023-10-22 01:21

Python 机器学习入门之ID3决策树算法

Python机器学习入门之牛顿法第二章Python机器学习入门之逻辑回归番外Python机器学习入门之K近邻算法番外Python机器学习入门之K-Means聚类算法第三章Python机器学习入门之ID3决策树算法
bug别找我·2023-10-21 18:23

第三章 Python 机器学习入门之C4.5决策树算法

Python机器学习入门之牛顿法第二章Python机器学习入门之逻辑回归番外Python机器学习入门之K近邻算法番外Python机器学习入门之K-Means聚类算法第三章Python机器学习入门之ID3决策树算法第三章
bug别找我·2023-10-21 18:17

ID3决策树算法(Python实现)

决策树是一类常见的机器学习方法。决策树的基本算法：--------------------------------------------------------------------------------------------------训练集D，属性集A-.if训练集中样本全属于同一类别.标记为叶结点，类别标记为此类别return.ifA=ΦorD中样本在A上取值全相同.标记为叶结点，类
想要变强的笨笨猪·2023-10-18 15:38

决策树ID3算法实现（python实现）

决策树算法决策树理论及概念长方形代表判断模块，椭圆形代表终止模块，从判断模块引用出来的箭头代表分支，如图构造了假象的邮件分类系统构造决策树的过程：首先在数据集所有特征中上找到在数据分类过程中最好的起决定性的的特征
你的梦想是？·2023-10-18 15:05

ID3决策树及Python实现（详细）

信息熵Ent(D)：信息熵，是度量样本集合纯度的一种指标，Ent(D)的值越小，则样本集D的纯度越高；2、信息增益Gain(D,a)：信息增益越大，则意味着使用属性a来划分所获得的“纯度提升”越大；ID3决策树算法就是基于信息增益来划分属性
春风不曾温柔·2023-10-18 15:56

机器学习实验——使用决策树和随机森林对数据分类

实验要求：使用决策树算法和随机森林算法对income_classification.csv的收入水平进行分类。
LM0729·2023-10-15 02:03

机器学习-期末复习

文章目录第一章线性回归1、线性回归问题2、误差项定义3、独立同分布4、极大似然估计5、梯度下降6、参数更新方法第五章逻辑回归原理推导第十一章决策树原理1、决策树算法概述2.实例信息增益3.信息增益率基尼指数
whh_0509·2023-10-14 22:19

机器学习期末总复习详解

机器学习实战第一章人工智能引擎机器学习与人工智能，深度学习的关系：进行机器学习的步骤机器学习算法的分类第二章模型评估经验误差与过拟合评估方法性能度量第三章k邻近算法KNN算法流程时间复杂度kd树k邻近算法优缺点第四章决策树决策树算法流程划分选择信息增益
打代码能当饭吃？·2023-10-14 22:16

树模型（2）随机森林

我们通过训练一系列个体学习器，并通过一定的结合策略将它们组合起来，形成一个强有力的学习器**个体学习器：**个体学习器是相对于集成学习来说的，作为单个学习器，它通常是由一个现有的学习算法从训练数据产生，如C4.5决策树算法
湿物男·2023-10-14 21:02

决策树算法——C4.5算法

目录1.ID3算法2.C4.5算法3.信息增益率（1）信息增益率（2）案例4.决策树的剪枝5.总结（1）优点与改进（2）缺点（3）总结及展望近年来决策树方法在机器学习、知识发现等领域得到了广泛应用。数据挖掘作为一种发现大量数据中潜在信息的数据分析方法和技术已经成为各界关注的热点。其中，决策树以其出色的数据分析效率、直观易懂等特点倍受青睐。构造决策树有多种算法，国际上最早的、具有影响力的决策树是由Q
阿波拉·2023-10-11 00:52

大数据分析案例-基于决策树算法构建信用卡欺诈识别模型

‍♂️个人主页：@艾派森的个人主页✍作者简介：Python学习者希望大家多多支持，我们一起进步！如果文章对你有帮助的话，欢迎评论点赞收藏加关注+喜欢大数据分析项目的小伙伴，希望可以多多支持该系列的其他文章大数据分析案例合集大数据分析案例-基于随机森林算法预测人类预期寿命
艾派森·2023-10-10 13:47

Decision Trees from scratch using Python

本文将从零开始实现决策树算法，并使用Python语言实现该决策树。决策树算法由多颗子树组成，每一个子树对应着若干个特征的测试。具体地，每一个子树对应于对数据集的一个划分。
禅与计算机程序设计艺术·2023-10-07 21:49

【常见决策树算法逻辑理解以及代码实现（3）】ID3 (代码实现,包含绘图,西瓜书示例)

importmathimportmatplotlib.pyplotaspltD=[['青绿','蜷缩','浊响','清晰','凹陷','硬滑','是'],['乌黑','蜷缩','沉闷','清晰','凹陷','硬滑','是'],['乌黑','蜷缩','浊响','清晰','凹陷','硬滑','是'],['青绿','蜷缩','沉闷','清晰','凹陷','硬滑','是'],['浅白','蜷缩','浊响'
TomcatLikeYou·2023-10-07 16:10

【常见决策树算法逻辑理解以及代码实现（5）】CART (代码实现,包含绘图,西瓜书示例)

使用的面向对象方式编写,主要类是Cart类,直接传入数据和属性集合,然后draw就可以运行结果如下(每次运行属性值顺序可能会不同,由于hash问题,不用管,结果是一样的)全部代码可下载项目https://gitee.com/TomCoCo/mLearn.git这里是代码,有完整的注释,可以直接运行如上图核心方法createTreeimportmathimportmatplotlib.pyplota
TomcatLikeYou·2023-10-07 16:10

CART算法解密：从原理到Python实现

目录一、简介CART算法的背景例子：医疗诊断应用场景例子：金融风控定义与组成例子：电子邮件分类二、决策树基础什么是决策树例子：天气预测如何构建简单的决策树例子：动物分类决策树算法的类型例子：垃圾邮件分类三
TechLead KrisChang·2023-10-04 20:36

9_分类算法—决策树

YIX）2决策树2.1什么是决策树2.2决策树构建过程（重点）2.3决策树特征属性类型（离散、连续）2.4决策树分割属性选择2.5决策树量化纯度2.5.1决策树的划分依据之一-信息增益（越大越好）2.6决策树算法的停止条件
少云清·2023-09-30 06:05

机器学习之决策树算法介绍

决策树介绍决策树(DecisionTree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。Entropy=系统的凌乱程度，使用算法ID3,C4.5和C
梦游症者·2023-09-28 19:11

【机器学习】随机森林（Random Forest）、GBDT（Gradient Boosting Decision Tree）、XGBoost（eXtreme Gradient Boosting）

bootstrappeddataset:创建一个引导数据集根据引导数据集创建决策树，每一步用变量的一个随机子集（列的随机子集）创建不断重复上述两个过程bagging：bootstrapping+aggregateGBDT好处：决策树算法相比于其他的算法需要更少的特征工程
小丫么小阿豪·2023-09-27 21:47

数据分析方法-决策树

大家好，这篇文章我们探讨下，决策树算法的相关的知识，决策树是一种分类算法，现在也可以应用与回归，决策树算法的实现有很多种，你可以写Python代码，也可以调用现成的sklearn包实现！
洛水青柳2017·2023-09-26 19:31

六、决策树算法(DT，DecisionTreeClassifier)（有监督学习）

一、算法思路具体可参考博文：七、决策树算法和集成算法基尼系数Gini：衡量选择标准的不确定程度；说白了，就是越不确定Gini系数越高需要选择最小的Gini系数来决定决策树下一级别分类的标准以基尼系数为核心的决策树称为
beyond谚语·2023-09-22 18:11

数据挖掘十大经典算法（2）——决策树与ID3

其实，ID3与位列十大经典算法的C4.5、CART本是同源，他们都属于决策树算法家族，都算是决策树构建算法。后两者也都是在ID3的基础上发展优化得来。
Frankie8713·2023-09-21 09:11

专治机器学习面试：机器学习各个算法的优缺点！

涉及到的算法有：回归正则化算法集成算法决策树算法支持向量机降维算法聚类算法贝叶斯算法人工神经网络深度学习感兴趣的朋友可以点赞、转发起来，让更多的朋友看到。技术交流技术要学会分享、交流，不建议闭门造车。
Python数据开发·2023-09-20 04:26

快速入门机器学习 干货核心概念梳理

目录介绍应用机器学习方法监督学习无监督学习常见算法方法K最近邻算法决策树算法深度学习人类偏见结论介绍机器学习（MachineLearning）是一种人工智能（AI）领域的技术和方法，它使计算机系统能够从数据中学习并自动改进
Momodel平台·2023-09-18 22:28

决策树算法

决策树原理概述树模型决策树：从根节点开始一步步走到叶子节点（决策）所有的数据最终都会落到叶子节点，既可以做分类也可以做回归树的组成根节点：第一个选择点非叶子节点与分支：中间过程叶子节点：最终的决策结果（没有后代的节点）节点增加节点相当于在数据中切一刀节点越多越好吗？决策树的训练与测试训练阶段：从给定的训练集构造出来一棵树（从根节点开始选择特征，如何进行特征切分）测试阶段：根据构造出来的树模型从上到
python机器学习学习笔记·2023-09-17 23:28

机器学习——决策树/随机森林

0、前言：决策树可以做分类也可以做回归，决策树容易过拟合决策树算法的基本原理是依据信息学熵的概念设计的（Logistic回归和贝叶斯是基于概率论），熵最早起源于物理学，在信息学当中表示不确定性的度量，熵值越大表示不确定性越大
疋瓞·2023-09-17 16:02

机器学习实战-决策树

决策树(DecisionTree)优点：计算复杂度不高对中间缺失值不敏感可以处理不相关数据缺点：容易过拟合决策树算法主要有3个步骤:1.特征选择；2.构造决策树；3.决策树剪枝构造决策树构造过程需要解决以下几个问题
投篮手型差·2023-09-16 21:34
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他