周志华西瓜书第12页

深度森林论文阅读笔记

本文是《机器学习》作者周志华教授和冯霁博士在2017年2月28日发表的论文《DeepForest:TowardsAnAlternativetoDeepNeuralNetworks》的阅读笔记，因此本文不会一字一句的翻译过来

Ritchie_Leung·2022-12-22 08:02

多标签学习与深度森林学习笔记

周志华老师团队Multi-LabelLearningwithDeepForest(MLDF)报道很多，各大机器学习平台也都就这篇文章的亮点给出了分析。

goodljq·2022-12-22 08:01

周志华机器学习--线性模型

系列文章目录第一章绪论第二章模型评估与选择第三章线性模型第四章决策树第五章支持向量机第六章神经网络第七章贝叶斯分类器第八章集成学习和聚类文章目录系列文章目录一、线性回归二、最小二乘解三、多元线性回归四、广义线性模型五、对率问题六、对率回归求解七、类别不平衡一、线性回归线性模型擅长处理数值问题，所以需要将离散变量转为连续的变量。离散变量又序的关系，则可进行变换（如高–1，低–0））；若没有序的关系，

馒头没有馅儿yolo·2022-12-21 22:49

周志华机器学习：决策树

决策树文章目录决策树参考基本流程划分选择信息增益决策树的生成——ID3，及其问题增益率决策树生成——C4.5，及其问题剪枝处理预剪枝和后剪枝统计学习方法中的剪枝CART算法（统计学习方法80）CART回归树CART分类树CART剪枝连续与缺失值连续值处理缺失值处理多变量决策树习题参考1、机器学习第二阶段：机器学习经典算法（2）——决策树与随机森林（视频）2、凸优化函数的定义、凸优化问题的概念及分类

椰子奶糖·2022-12-21 21:13

周志华机器学习决策树ID-3和CART完全实现代码

决策树ID-3和CART完全实现周志华机器学习第三章决策树ID-3和CART代码实现，搜索到的代码结果和教材结果不一致，在现有代码上更改后与教材结果一致，现有代码在实现时存在问题。

XTWLP·2022-12-21 21:43

《机器学习》周志华-决策树

经过前几章的学习，我发现这样做博客没有什么意义，接下来，痛定思痛，我打算换一种写博客的方式。基础的内容我可能会提一两句，可能不会提。重要提我仔细研究过的内容。由于前面的决策树的概念，包括ID3，CD4.5，CART决策树内容较简单，不一一陈述。本次主要从4.3剪枝处理开始写。1剪枝处理由于有时决策树的分支过多会导致过拟合现象，所有有了剪枝处理。决策树剪枝的基本策略有“预剪枝”“后剪枝”。预剪枝：在

wzw&weiye·2022-12-21 21:39

《机器学习》周志华-决策树算法总结

决策树1.什么是决策树决策树(decisiontree)是一类常见的机器学习方法，亦称“判定树”。顾名思义，决策树是基于树结构来进行决策的，这恰是人类在面临决策问题时一种很自然的处理机制。例如，挑西瓜的决策过程如下图所示：中间结点是决策过程，叶结点是决策结果。根结点包含样本全集。决策树学习基本算法（是一个递归算法）为：2.划分选择一般而言，随着划分过程不断进行，我们希望决策树的分支结点所包含的样本

鸽鸽姐姐·2022-12-21 21:04

周志华机器学习-决策树

周志华机器学习-决策树第一章绪论第二章模型评估与选择第三章线性模型第四章决策树第五章支持向量机第六章神经网络第七章贝叶斯分类器第八章集成学习和聚类文章目录周志华机器学习-决策树一、决策树基本流程？

馒头没有馅儿yolo·2022-12-21 21:00

谈谈评价指标中的宏平均和微平均

谈谈评价指标中的宏平均和微平均今天在阅读周志华老师的《机器学习》一书时，看到性能度量这一小节，里面讲到了宏平均和微平均的计算方法，这也是我一直没有很清晰的一个概念，于是在看了之后又查阅了一些资料，但是还是存在一些问题

weixin_34218579·2022-12-21 18:02

关于宏平均（Macro-averaging）和微平均（Micro-averaging）

本为转载与此今天在阅读周志华老师的《机器学习》一书时，看到性能度量这一小节，里面讲到了宏平均和微平均的计算方法，这也是我一直没有很清晰的一个概念，于是在看了之后又查阅了一些资料，但是还是存在一些问题，想和大家分享一下

chenpe32cp·2022-12-21 18:58

机器学习(周志华) 参考答案第十四章概率图模型 14.9

机器学习(周志华西瓜书)参考答案总目录http://blog.csdn.net/icefire_tyh/article/details/52064910机器学习(周志华)参考答案第十四章概率图模型http

四去六进一·2022-12-21 11:48

周志华：关于机器学习的一点思考

周志华：关于机器学习的一点思考https://www.cnblogs.com/DicksonJYL/p/9712380.html演讲：周志华整理：肖琴、闻菲机器学习如今大获成功的原因有哪些？

喜欢打酱油的老鸟·2022-12-20 21:53

西瓜书笔记9: 聚类

目录9.1聚类任务9.2性能度量外部指标内部指标9.3距离计算有序属性的距离无序属性的距离属性距离变形9.4原型聚类k均值算法学习向量量化(LVQ)高斯混合聚类E步M步9.5密度聚类9.6层次聚类9.1聚类任务无监督学习(unsupervisedlearning)目标:揭示数据的内在性质及规律,为进一步的数据分析提供基础.聚类(clustering):将数据集中的样本划分为若干个不相交的子集.(子

lagoon_lala·2022-12-20 19:34

【机器学习】白板公式推导-1-书籍&视频

【机器学习】白板公式推导-1-介绍书籍列表频率派-统计机器学习统计学习方法-李航ESL贝叶斯派-概率图模型模式识别与机器学习（PRML）-ChristopherM.BishopMLAPP其他机器学习（西瓜书

暖焱·2022-12-20 17:01

八月组队学习，吃瓜课程学习笔记打卡 Task1

但在此前就购入了《西瓜书》+《南瓜书》的我还是决定来试一试。这是初次吃瓜，但是对机器

miskirito·2022-12-20 12:13

周志华----机器学习2

第四章----决策树样本的分类的任务，可看做是对“当前样本属于正类吗？”这个问题的“决策”或“判定”过程其基本流程遵循简单且直观的“分而治之”的策略决策树的生成是一个递归的过程剪枝处理是决策树学习算法对付过拟合的主要手段第五章----神经网络-是一种难解释的“黑箱模型”线性可分问题：与、或、非问题非线性可分问题：异或问题。使用多层功能神经网络误差逆传播算法（BP算法）：实质是LMS算法的推广。LM

rekure·2022-12-20 12:08

机器学习课堂笔记-1

分类算法：神经网络支持向量机朴素贝叶斯K-近邻决策树(随机森林)深度神经网络3.聚类算法：K-means聚类层次聚类密度聚类谱聚类高斯混合聚类4.降维算法：主成分分析线性判别分析局部线性嵌入参考书目：西瓜书

Cole～～·2022-12-20 12:37

吃瓜笔记：Task02 线性模型

Datawhale2022年5月吃瓜教程Task02所用教程：《机器学习》（周志华），《机器学习公式详解》（谢文睿，秦州）学习内容：一元线性回归与多元线性回归（2天）预习：西瓜书3.1、3.2一元线性回归直播回放

余舍·2022-12-20 12:07

sklearn学习01——LinearRegression / LogisticRegression

模型测试和比较1.4、多元线性回归1.5、训练一元线性模型常用方法——梯度下降法二、多项式线性回归三、逻辑（Logistic）回归3.1、损失函数3.2、梯度下降法3.3、代码实现总结前言在学习了机器学习（周志华

hitsugaya837·2022-12-20 12:07

sklearn学习03——Bayes

sklearn学习03——Bayes前言一、朴素贝叶斯1.1、贝叶斯分类器的理论框架1.2、朴素贝叶斯分类器1.3、朴素贝叶斯的代码实现总结前言本篇首先介绍朴素贝叶斯分类器的原理（参考西瓜书），最后使用

hitsugaya837·2022-12-20 12:07

小白西瓜书机器学习打卡Task2

学习笔记：课程来自B站【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集https://www.bilibili.com/video/BV1Mh411e7VU?

Olivia LI.·2022-12-20 12:37

《机器学习》及实战四、贝叶斯理论及实战

Python版本：Python3.x运行平台：WindowsIDE：PyCharm参考资料：《机器学习》（西瓜书）《机器学习实战》（王斌）转载请标明出处：https://blog.csdn.net/tian121381

Yuuuuu丶Tian·2022-12-20 12:02

周志华机器学习（二）

学习进度：第三章学习内容综述：第三章学习了一类非常重要、应用广泛的模型——线性模型。主要学习了线性模型的基本形式和特点；线性回归的定义、目标、常用的性能度量“均方误差”和最小二乘法；推广到普遍形式的线性回归——“多元线性回归”；逼近y的衍生物的对数线性回归，对数几率回归；在上述问题中应用的“极大似然法”；类别不平衡问题中阈值的确定以及再缩放的三种方法。学习内容目录：3.1基本形式3.2线性回归3.

抱壹·2022-12-20 12:00

西瓜书学习笔记——task01

西瓜书学习笔记第一章基本术语数据集：所有瓜样本/示例：一个瓜的描述（属性描述）属性：瓜皮颜色属性值：青绿属性空间"(attributespace)/“样本空间”(samp1espace)/“输入空间：属性张成的空间

zhaoaxi·2022-12-20 12:00

python实现决策树_机器学习之决策树(Decision Tree)python实现

importnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltimportseabornassnsfrommathimportlog复制代码我们使用西瓜书中的一个数据集

weixin_39530833·2022-12-19 16:50

Python 无框架实现决策树（DecisionTree）

以西瓜书第4章决策树所给数据为例，构建决策树的过程大致为，我们每次通过选出“信息熵增益（GainInformationEntropy）”最大的属性，直到最后能够对样本标签进行预测。

山隆木对·2022-12-19 15:43

吃瓜教程｜Task5（阅读西瓜书第6章）

文章目录1间隔与支持向量2对偶问题2.1SMO3核函数4软间隔与正则化5支持向量回归6核方法1间隔与支持向量给定训练样本集D，分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平面，将不同类别的样本分开。直观上看，应该去找位于两类训练样本“正中间”的划分超平面，即如图所示中间的曲线，因为该划分超平面对训练样本局部扰动的“容忍”性最好，也就是说，该划分超平面所产生的分类结果是最鲁棒的，对

HWH-·2022-12-19 11:07

吃瓜教程｜Task4（阅读西瓜书第5章）

文章目录1神经元模型2感知机与多层网络3误差逆传播算法4全局最小与局部极小5其他常见神经网络5.1RBF网络5.2ART网络5.3SOM网络5.4级联相关网络5.5Elman网络5.6Boltzmann机6深度学习1神经元模型神经网络是由具有适应性的简单单元组成的广泛并行互连的网络神经元接收来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元

HWH-·2022-12-19 11:37

机器学习——（1）

参考书籍机器学习，周志华，清华大学出版社，2016统计学习方法，李航，清华大学出版社，2012DeepLearning,I.Goodfellow,Y.BengioandA.Courville,2016课程推荐

Sky_177·2022-12-19 09:54

西瓜数据集3.0_西瓜书.绪论.学习笔记（一）

第一次作瓜书笔记有什么不足还请各位大佬们多多补充一，机器学习（ML）的概念在遇到一些问题的时候，我们用构建模型的方法来解决问题。怎么才能让你建立除来的模型更好，准确率更高，适应性更广呢？这就是我们为什么来学习“机器学习”这门学科。机器学习主要研究“模型的算法”也就是“学习算法”，有了这种学习算法，我们就可以将我们模型进行不断地优化，来提升模型。二，基本术语进行机器学习之前，我们准备的数据，我们采集

weixin_39537298·2022-12-18 11:43

西瓜书习题 - 1.绪论

天气数据生活语言2.典型得机器学习过程1、西瓜书中的西瓜数据集中，“好瓜、坏瓜”是一个西瓜样例的什么？属性类别标记没有意义数据集名称2、对于要预测的新的数据样本，它的类别

加油呀，哒哒哒·2022-12-18 11:12

使用决策树相关算法实现波士顿房价预测

构建决策树根据西瓜书的知识，构建决策树的算法如下:由此可见决策树的构建是一个递归问题，核心在于：如何选择最优的特征，使得对数据集的划分效果最好。决定何时停止分裂节点。选择

enginelong·2022-12-18 11:57

机器学习二：支持向量机

4.3.1SVMCParameter4.3.2SVMGammaParameter5.Overfitting6.总结7.SKLearn7.1分类7.1.1多类别分类Reference:SupportVectorMachines周志华

泠山·2022-12-18 11:50

西瓜书学习笔记——第十三章：半监督学习

13.半监督学习13.1未标记样本13.2生成式方式高斯混合生成式模型其他生成式模型13.3半监督SVMTSVM半监督支持向量机13.4基于分歧的方法13.5半监督聚类约束k均值算法（必连勿连）约束种子k均值算法（少量有标记样本）13.1未标记样本训练样本集D由有标记样本集DlD_lDl和未标记样本集DuD_uDu组成，若使用传统监督学习算法，则只能使用DlD_lDl，DuD_uDu的信息被浪费，

Andrewings·2022-12-18 10:49

半监督学习入门——《机器学习》周志华—第十三章

《机器学习》第十三章（西瓜书）13.1未标注样本13.2生成式方法13.3半监督SVM13.4图半监督学习13.5基于分歧的方法13.6半监督聚类文中引用的外部图片13.1未标注样本半监督学习描述概念让学习器不依赖外界交互

qwq_xcyyy·2022-12-18 10:18

机器学习（周志华）第十三章半监督学习

关于周志华老师的《机器学习》这本书的学习笔记记录学习过程本博客记录Chapter13文章目录1半标记样本2生成式方法3半监督SVM4图半监督学习5基于分歧的方法6半监督聚类1半标记样本我们有训练样本集Dl

YJY131248·2022-12-18 10:13

西瓜书整理

目录一、分类二、生成式方法三、TSVM参考：https://www.cnblogs.com/NoNameIsBeginning/p/13703217.html#131-%E8%AF%95%E6%8E%A8%E5%AF%BC%E5%87%BA%E5%BC%8F135138一、分类

(∩ᵒ̴̶̷̤⌔ᵒ̴̶̷̤∩)·2022-12-18 10:12

《机器学习》周志华--第9章聚类笔记+习题

https://www.cnblogs.com/hzcya1995/p/13302691.html9.1聚类任务9.2性能度量基于式(9.1)~(9.4)，可导出下面这些常用的聚类性能度量外部指标：Jaccard系数(JaccardCoefficient，简称JC)FM指数(FowlkesandMallowslndex，简称FMI)Rand指数(RandIndex，简称RI)基于这四个式子，可导出

汪呀呀呀呀呀呀呀·2022-12-17 10:05

周志华《机器学习》第一章读书笔记以及课后习题答案

读书笔记1.根据训练数据是否拥有标记信息，学习任务可大致分两类学习任务代表监督学习分类，回归无监督学习聚类2.学得模型适用于新样本的能力，称为“泛化”能力。3.假设空间和版本空间例题的假设空间由3部分组成①色泽，根蒂，敲声分别有3,3,3种取值②色泽，根蒂，敲声取什么值都合适，我们使用通配符“*”来表示，所以取值分别用1,1,1表示③还有一种极端情况，有可能“好瓜”这个概念根本就不成立，世界上压根

纵深·2022-12-16 20:28

机器学习(周志华)习题解答1.1-1.3: 理解假设和版本空间

说明：本文是自己对周志华2016年新书《机器学习》中习题的解答，难免有误欢迎指正。习题1.4的“没有免费的午餐定理”证明可点击这篇博文。习题1.1若表1.1只包含1和4两个样例，试给出相应的样本空间。

ThitherShore·2022-12-16 20:28

【周志华机器学习】常见名词与性能度量01

一、常见名词维灾难泛化能力：机器学习出来的模型适用于新样本的能力，泛化能力，从特殊到一般离散型：分类连续性：回归监督学习：有标记信息的学习任务-分类和回归无监督学习：没有标记信息的学习任务-聚类和关联训练误差：经验误差测试误差泛化误差：学习器在新的样本上的误差过拟合：学习能力太强，训练误差比较小，测试误差比较大欠拟合：学习能力太差，训练误差和测试误差都比较大二、评估方法：用测试误差代替泛化误差三、

AI study·2022-12-16 20:28

【机器学习基础】假设空间 VS 版本空间

本文借用周志华《机器学习》一书中的实例向大家介绍这两个概念。文章目录数据集介绍假设空间版本空间数据集介绍假设我们的任务要判断一个西瓜是“好瓜”，还是“坏瓜”——一个二分类问题。

杨小浩浩hh·2022-12-16 20:57

机器学习（周志华）第一章课后答案

写在前面：这学期开始学习机器学习，后面给出的问题的解答或是想法仅供参考，甚至还有错误的地方，届时希望大能们能够加以斧正，解答我的疑惑。1.1首先课本给出的样例的版本空间是错的，害我一脸懵逼（再版的已经更正了）。正确应为：若只包含样例1和4，则“色泽”“根蒂”“敲声”分别都有2中取值，所以假设空间规模大小为3*3*3+1=28种。版本空间为：A(2,2)-1=7色泽根蒂敲声青绿**青绿*浊响青绿蜷缩

山东大学-苏苏·2022-12-16 20:57

周志华机器学习阅读笔记(一）泛化能力、假设空间与版本空间及课后题解

第1章的一些易混淆名词解释注释：只记录一些之前不太清晰的名词解释泛化能力（generalization）机器学习的目标是使学习的模型能适用于未在训练集中出现过的样本，泛化能力即为所学模型适用于新样本的能力。通常我们假设样本空间中的全体样本是独立同分布的（服从于某个分布D）。一般，训练样本越多则得到的关于D的信息越多，越有可能学得强泛化能力的模型。基于西瓜问题的假设空间与版本空间（versionsp

悦心者为乐·2022-12-16 20:27

西瓜书《机器学习》阅读笔记1——Chapter1_假设空间

现在需要判断一个西瓜是否为好瓜。假设西瓜有三个属性：色泽、根蒂、敲声。其中色泽有青绿、乌黑、浅白三种可能取值，根蒂有硬挺、稍蜷、蜷缩三种可能取值，敲声有清脆、浊响、沉闷三种可能取值。并且为每种属性考虑通配情况，即取任一属性值都行，比如好瓜根蒂蜷缩，敲声浊响，什么色泽都行。不考虑属性通配两个属性值的情况，比如好瓜根蒂蜷缩，敲声浊响，色泽可以是青绿和乌黑。除此之外，还要考虑一种特殊的假设，即不存在好瓜

Vic时代·2022-12-16 20:27

【DataWhale组队学习】吃瓜教程(西瓜书+南瓜书)Task05-SVM函数间隔问题

本次任务是周志华老师《机器学习》第六章支持向量机的内容，个人觉得本章是截至目前所有章节任务中难度相对最大且花时间最多的部分，也看了不少资料（还有一部分还没看完）。

哒卜琉歪歪·2022-12-16 19:41

【吃瓜教程】【西瓜书】第一章、第二章学习总结

【吃瓜教程】【西瓜书】第一章、第二章学习总结第一章绪论1.机器学习的定义：研究通过计算的手段，利用经验来改善系统的性能。而且这一过程不是显式编程的。

编号 37927·2022-12-16 19:09

《集体智慧编程》读书笔记

weixin_30396699·2022-12-16 12:37

机器学习——《西瓜书》

《西瓜书》–机器学习第一二章学习笔记（初识机器学习）*我i什么看到微湿路面、感到春风、看到晚霞，就认为明天是好天呢？这是因为在我们的生活经验中已经遇见过很多类似的情况，这是我们基于经验做出的判断。

等风**等你·2022-12-16 11:44

机器学习——西瓜书学习笔记（1）绪论

文章目录**1.1引言1.2基本术语（极其重要）1.3假设空间1.4归纳偏好1.5发展历程1.6应用现状1.7习题1.1引言机器学习(machinelearning)的定义：它致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。在计算机系统中，“经验”通常以“数据”的形式存在。ML研究的主要内容：在计算机上、从数据中产生“模型model”的算法。即是：如何通过数据集产生模型？因此机器学习本

Charcy阳·2022-12-16 11:13

推荐频道

周志华西瓜书