【周志华第7页

半监督学习入门——《机器学习》周志华—第十三章

《机器学习》第十三章（西瓜书）13.1未标注样本13.2生成式方法13.3半监督SVM13.4图半监督学习13.5基于分歧的方法13.6半监督聚类文中引用的外部图片13.1未标注样本半监督学习描述概念让学习器不依赖外界交互、自动地利用未标记样本来提升学习性能分类纯半监督学习和直推学习##标题Q：如何利用未标记样本？A：做一些将未标记样本所揭示的数据分布信息与类别标记相联系的假设，如聚类假设和流式假

qwq_xcyyy·2022-12-18 10:18

机器学习（周志华）第十三章半监督学习

关于周志华老师的《机器学习》这本书的学习笔记记录学习过程本博客记录Chapter13文章目录1半标记样本2生成式方法3半监督SVM4图半监督学习5基于分歧的方法6半监督聚类1半标记样本我们有训练样本集Dl

YJY131248·2022-12-18 10:13

《机器学习》周志华--第9章聚类笔记+习题

https://www.cnblogs.com/hzcya1995/p/13302691.html9.1聚类任务9.2性能度量基于式(9.1)~(9.4)，可导出下面这些常用的聚类性能度量外部指标：Jaccard系数(JaccardCoefficient，简称JC)FM指数(FowlkesandMallowslndex，简称FMI)Rand指数(RandIndex，简称RI)基于这四个式子，可导出

汪呀呀呀呀呀呀呀·2022-12-17 10:05

周志华《机器学习》第一章读书笔记以及课后习题答案

读书笔记1.根据训练数据是否拥有标记信息，学习任务可大致分两类学习任务代表监督学习分类，回归无监督学习聚类2.学得模型适用于新样本的能力，称为“泛化”能力。3.假设空间和版本空间例题的假设空间由3部分组成①色泽，根蒂，敲声分别有3,3,3种取值②色泽，根蒂，敲声取什么值都合适，我们使用通配符“*”来表示，所以取值分别用1,1,1表示③还有一种极端情况，有可能“好瓜”这个概念根本就不成立，世界上压根

纵深·2022-12-16 20:28

机器学习(周志华)习题解答1.1-1.3: 理解假设和版本空间

说明：本文是自己对周志华2016年新书《机器学习》中习题的解答，难免有误欢迎指正。习题1.4的“没有免费的午餐定理”证明可点击这篇博文。习题1.1若表1.1只包含1和4两个样例，试给出相应的样本空间。

ThitherShore·2022-12-16 20:28

【周志华机器学习】常见名词与性能度量01

一、常见名词维灾难泛化能力：机器学习出来的模型适用于新样本的能力，泛化能力，从特殊到一般离散型：分类连续性：回归监督学习：有标记信息的学习任务-分类和回归无监督学习：没有标记信息的学习任务-聚类和关联训练误差：经验误差测试误差泛化误差：学习器在新的样本上的误差过拟合：学习能力太强，训练误差比较小，测试误差比较大欠拟合：学习能力太差，训练误差和测试误差都比较大二、评估方法：用测试误差代替泛化误差三、

AI study·2022-12-16 20:28

【机器学习基础】假设空间 VS 版本空间

本文借用周志华《机器学习》一书中的实例向大家介绍这两个概念。文章目录数据集介绍假设空间版本空间数据集介绍假设我们的任务要判断一个西瓜是“好瓜”，还是“坏瓜”——一个二分类问题。

杨小浩浩hh·2022-12-16 20:57

机器学习（周志华）第一章课后答案

写在前面：这学期开始学习机器学习，后面给出的问题的解答或是想法仅供参考，甚至还有错误的地方，届时希望大能们能够加以斧正，解答我的疑惑。1.1首先课本给出的样例的版本空间是错的，害我一脸懵逼（再版的已经更正了）。正确应为：若只包含样例1和4，则“色泽”“根蒂”“敲声”分别都有2中取值，所以假设空间规模大小为3*3*3+1=28种。版本空间为：A(2,2)-1=7色泽根蒂敲声青绿**青绿*浊响青绿蜷缩

山东大学-苏苏·2022-12-16 20:57

周志华机器学习阅读笔记(一）泛化能力、假设空间与版本空间及课后题解

第1章的一些易混淆名词解释注释：只记录一些之前不太清晰的名词解释泛化能力（generalization）机器学习的目标是使学习的模型能适用于未在训练集中出现过的样本，泛化能力即为所学模型适用于新样本的能力。通常我们假设样本空间中的全体样本是独立同分布的（服从于某个分布D）。一般，训练样本越多则得到的关于D的信息越多，越有可能学得强泛化能力的模型。基于西瓜问题的假设空间与版本空间（versionsp

悦心者为乐·2022-12-16 20:27

【DataWhale组队学习】吃瓜教程(西瓜书+南瓜书)Task05-SVM函数间隔问题

本次任务是周志华老师《机器学习》第六章支持向量机的内容，个人觉得本章是截至目前所有章节任务中难度相对最大且花时间最多的部分，也看了不少资料（还有一部分还没看完）。

哒卜琉歪歪·2022-12-16 19:41

周志华《机器学习》笔记（一）——对机器学习的初步认识

一、对机器学习的初步认识1、机器学习的定义2、机器学习的分类3、机器学习的过程4、机器学习的一些思想1、机器学习的定义（1）TomMitshell：计算机程序在任务T上的性能指标P，随经验E的增加而提高。（2）个人理解：用学习算法从数据中产生模型，并对模型进行应用的一类方法。如下图所示：上帝真相（GroundTruth）：数据中隐含的理想映射关系（f:x->y)。有多理想，无论是在训练集还是新样本

不会写代码的牛马·2022-12-16 08:50

决策树(decision tree)——(1)生成与度量指标

**注：本博客为李航《统计学习方法》与周志华《机器学习》读书笔记，虽然有一些自己的理解，但是其中仍然有大量文字摘自李老师和周老师的书籍内容。

猿童学·2022-12-15 22:43

周志华机器学习（一）

2022.12.13学习进度：第一章、第二章学习内容综述第一章学习了机器学习领域的一些基本术语。了解了假设空间、归纳偏好的概念。第二章学习了模型的评估与选择方法。学习了各种误差的定义与过拟合欠拟合的概念。留出法、交叉验证法、自主法这些评估方法。错误率，精度、查准率，查全率，F1这些性能度量的指标。比较检验这一小节涉及了一些数理统计的内容，需要我抽空去补充一下数学基础知识。

抱壹·2022-12-15 12:15

机器学习笔记03---决策树(Decision Tree)

参考周志华《机器学习》

一件迷途小书童·2022-12-15 11:21

Task01：概览西瓜书+南瓜书第1、2章（2天）

笔记参考和出处：《机器学习》周志华Datawhale吃瓜教程重学机器学习，巩固基础数学推导知识。原笔记用Typora完成，这里主要学习一些基本概念和一些概念的数学表达，方面在后面推导中快速建立体系。

Flying Warrior·2022-12-14 16:34

一文读懂先验概率和后验概率

一文读懂先验概率和后验概率（超简单）先简单看看公式的定义：先验概率:P(c)后验概率:P(c|x)条件概率:P(x|c)参数的含义：c:某类样本x:样本c的某个或者某组属性我们来看看周志华老师的《机器学习

氏族归来·2022-12-14 16:42

机器学习（周志华）课后习题

第1章绪论1.1表1.1若只包含编号1和4的两个样例，试给出相应的版本空间。版本空间：与训练及一致的假设集合。色泽=青绿，根蒂=*，敲声=*；色泽=*，根蒂=蜷缩，敲声=*；色泽=*，根蒂=*，敲声=浊响；色泽=青绿，根蒂=蜷缩，敲声=*；色泽=青绿，根蒂=*，敲声=浊响；色泽=*，根蒂=蜷缩，敲声=浊响；色泽=青绿，根蒂=蜷缩，敲声=浊响；1.2求假设空间的大小析合范式：先合取再析取的范式；根据

paintShadow·2022-12-14 15:56

周志华《机器学习初步》模型评估与选择

周志华《机器学习初步》模型评估与选择Datawhale2022年12月组队学习✌文章目录周志华《机器学习初步》模型评估与选择一.泛化能力二.过拟合和欠拟合泛化误差VS经验误差过拟合VS欠拟合三.模型选择的三大问题如何获得测试结果

临风而眠·2022-12-14 15:54

周志华机器学习—绪论

基本术语模型：从数据中学习得到的结果，指全局性结果模式：指局部性结果从数据中得到模型的过程称为学习或者训练，训练过程中使用的数据称为训练数据其中的每一个样本称为训练样本，训练样本组成的集合称为训练集某种潜在的规律称为假设样例：例如我们需要判断某一个瓜是否是好瓜，（xi,yi）,yi就是标记，yi的集合称为标记空间分类：我们需要预测的值是离散值，例如是好瓜还是坏瓜，这种学习任务称为分类，如果预测的是

Nefelibat·2022-12-14 15:52

《机器学习》（周志华）第一章绪论笔记学习心得

第1章绪论学习心得由于我之前已经学过了李航老师的《统计学习方法（第2版）》，所以这里面的概念没有啥不懂得，不会像教程说的有些难，毕竟学过一部分了。而且，这本书确实比李航老师涵盖的可能更广些，从绪论可见一斑。其中的1.4归纳偏好可以说拓展了我的知识面，之前只是认为，有了假设（模型），有了损失函数，去优化求的最小的损失就可以了，但是其实一直忽略了一个更重要的，更高一层的东西，假设空间里学习到的最终的模

ML--小小白·2022-12-14 15:21

【机器学习（周志华）】绪论

基本术语假设空间与版本空间归纳偏好主要记录归纳偏好中的内容奥卡姆剃刀：若有多个假设与观察一致，则选择最简单的那个。没有免费的午餐(NoFreeLunchTheorem,简称NFL定理)：最后公式化简后，，关于算法的变量被消掉，也就是说总误差与学习算法无关。但是，需要值得注意的是NFL定理有一个重要前提：所有“问题”出现的机会相同，或所有问题同等重要，即所有可能的f按均匀分布。因此必须清楚地认识到，

HiSakuraaa·2022-12-14 15:20

周志华机器学习（西瓜书）第一章绪论

（一）基本术语1.标记2.样例3.泛化能力4.过拟合（二）学习任务的分类学习任务种类：1.按照数值类型（1）分类：预测的是离散值（2）回归：预测的是连续值2.训练数据是否有标记（1）有监督学习：有标记，包括分类和回归。（2）无监督学习：无标记，包括聚类（对训练集进一步分组）（三）一些理论1.奥卡姆剃刀理论：多个假设与观察一致，选择最简单的。2.NFL（没有免费的午餐）：无论学习算法如何，期望性都相

骑士GG·2022-12-14 15:20

周志华机器学习读书笔记（一）绪论

第一章绪论第一节基本术语这里主要给出一些专用或常用词汇的英语汉语对照，以方便以后的英文阅读数据集（dataset）样本（sample）特征（feature）属性值（attributevalue）样本空间（samplespace）特征向量（featurevector）维数（dimension）假设（hypothesis）标记（label）标记空间（labelspace）分类（classificati

hellyou·2022-12-14 15:49

周志华《机器学习初步》绪论

周志华《机器学习初步》绪论Datawhale2022年12月组队学习✌文章目录周志华《机器学习初步》绪论一.机器学习二.典型的机器学习过程三.计算学习理论PAC模型思考两个问题问题性质角度计算要求的角度四

临风而眠·2022-12-14 15:18

流形的概念与应用

这是我的一大疑虑~~周志华的西瓜书第十章里有关于流形学习的概念——流形学习（manifoldlearning）是一类借鉴了拓扑流形概念的降维方法。“流形”是在局部与欧式空间同胚的空间，换言之，它在局部

缒一·2022-12-14 11:09

机器学习——01基础知识

——01基础知识github地址：https://github.com/yijunquan-afk/machine-learning参考资料[1]庞善民.西安交通大学机器学习导论2022春PPT[2]周志华

雨落俊泉·2022-12-14 10:13

周志华机器学习--模型评估与选择

周志华机器学习–模型评估与选择第一章绪论第二章模型评估与选择第三章线性模型第四章决策树第五章支持向量机第六章神经网络第七章贝叶斯分类器第八章集成学习和聚类文章目录周志华机器学习--模型评估与选择一、泛化能力二

馒头没有馅儿yolo·2022-12-13 20:54

【读书笔记】周志华机器学习第一章绪论

第一章绪论基本术语假设空间归纳偏好参考文献基本术语编号x1x_1x1x2x_2x2yyy1110210130114000以上表数据集为例，一般地，称x1x_1x1,x2x_2x2为特征；特征张成地空间为输入空间或者特征空间；称特征空间中的一个点x1=(1,1){\boldsymbolx_1}=(1,1)x1=(1,1)为示例或者输入向量或者特征向量。称yyy是标记，有标记的示例称为样例，用(xi,

CQ小熊家·2022-12-13 20:22

机器学习-周志华-课后习题-绪论

绪论假设空间：即所有可能的假设。他无关训练过程，是基本样本的可能做出的判断版本空间：所有与训练集匹配的假设集合奥卡姆剃刀（Occam’srazor）：若有多个与观察一致的假设，则选择其中最简单的一个。||这个说法涉及到对于简单的定义。在多数场合，简单可以直接判断，例如：线性比非线性简单。但是在机器学习的很多场合，简单是难以直观定义的。没有免费的午餐（NofreelunchTheorem）：对于一个

庐州小白·2022-12-13 20:52

《机器学习》周志华-CH1 绪论

文章目录1.1引言1.2基本术语（极其重要）1.3假设空间1.4归纳偏好1.5发展历程1.6应用现状习题1.1引言机器学习(machinelearning)的定义：它致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。在计算机系统中，“经验”通常以“数据”的形式存在。ML研究的主要内容：在计算机上、从数据中产生“模型model”的算法。即是：如何通过数据集产生模型？因此机器学习本质上，研究

喜欢打酱油的老鸟·2022-12-13 20:51

机器学习---周志华第一章绪论习题部分

机器学习-周志华第一章绪论习题1.1编号1和4版本空间如下图所示1.3选择色泽=*^根蒂=蜷缩^敲声=浊响归纳偏好为好瓜1.4机器学习在搜索引擎中的作用：https://zhuanlan.zhihu.com

SunKisX·2022-12-13 20:47

机器学习-周志华-笔记

文章目录第一章绪论1.2基本术语1.3假设空间1.4归纳偏好第一章绪论1.2基本术语分类：监督学习（supervisedlearning）【分类和回归】和无监督学习（unsuprisedlearning）【聚类】1.3假设空间假设空间是所有假设集合；版本空间是假设空间中训练集的集合1.4归纳偏好可以使用“奥卡姆剃刀”“没有免费午餐”定理（NFL）：所有学习算法的期望性能跟随机胡猜差不多所以使用机器

mistyzcc·2022-12-13 20:47

机器学习-周志华-学习记录-第一章绪论

文章目录绪论一、什么是机器学习二、基本术语三、假设空间四、归纳偏好总结参考链接绪论为了更早地适应研究生的生活，我决定重新学习周志华老师的机器学习这本书。

小瘪️·2022-12-13 20:16

机器学习-周志华-学习记录-第二章模型评估与选择

文章目录绪论一、经验误差与过拟合二、评估方法1.留出法2.交叉验证法3.自助法4.调参与最终模型三、性能度量1.错误率与精度2.查准率、查全率与F1（1）查准率与查全率（2）查全率、查准率关系以及P-R曲线3.ROC与AUC（1）ROC定义（2）ROC绘图流程（3）ROC图像性质：（4）AUC的估算式及其推导4.代价敏感错误率与代价曲线（1）代价敏感错误率（2）代价曲线四、比较检验1.假设检验2.

小瘪️·2022-12-13 20:16

《机器学习》周志华第一章课后习题

机器学习第一章课后习题答案1.1先区分两个概念，假设空间和版本空间。假设空间是指所有的可能的情况所形成的假设组成的集合，而版本空间则是对假设空间进行搜索，删除与正例不一致的假设和与反例一致的假设，所得到的与训练集一致的假设组成的集合。对于表1.1，若色泽、根蒂、敲声分别有3种取值，假设空间大小是（3+1）^3+1=65，第一个1代表任意，即该特征对是否是好瓜无影响，第二个1代表空集，即没有“好瓜”

huzimu_·2022-12-13 20:44

周志华西瓜书学习笔记----绪论

文章目录前言一、算法处理数据的流程二、假设空间是什么？三、归纳偏好前言这篇文章将记录西瓜书中绪论的学习。一、算法处理数据的流程在我们训练一个模型前我们需要准备一些数据，训练集是历史数据。当我们有一批新的数据时（测试集），我们将这些数据输入训练过的模型来得到每个数据对应的标签。二、假设空间是什么？在我们使用数据集进行机器学习时，我们能用到的数据是有限的，而我们需要利用有限的数据通过算法拟合出一个能够

Ω2πA 》·2022-12-13 20:41

周志华机器学习--绪论

周志华机器学习–绪论第一章绪论第二章模型评估与选择第三章线性模型第四章决策树第五章支持向量机第六章神经网络第七章贝叶斯分类器第八章集成学习和聚类文章目录周志华机器学习--绪论前言一、基本术语二、归纳偏好三

馒头没有馅儿yolo·2022-12-13 20:39

机器学习笔记之监督学习和无监督学习

机器学习（machinelearning）“一个程序被认为能从经验E中学习，解决任务T，达到性能度量值P，当且仅当，有了经验E后，经过P评判，程序在处理T时的性能有所提升”这是在吴恩达的视频和周志华的书上

解渴的凉白开·2022-12-13 08:01

决策树理解

决策树理解（一）参考书籍：《机器学习》周志华，第1版《统计学习方法》李航，第2版用来记录自己对书中知识的理解，加强自己的理解和记忆，同时提出自己迷惑不解的地方，提高自己编辑的表达能力。

小耗子-Axel·2022-12-13 06:18

参加论文写作课后心得体会

根据学习周志华教授的课件，他在课件里阐述了为什么写论文——“把你的工作告诉同行—经过同行评审（peer-review），成为科学文献”以及“基础研究的主要成果—将成果运用到实际”。

rueyun·2022-12-12 15:52

结合openCV学习DIP之机器学习CNN

并且以此为依据可以从其他未知图像中检测出相似或相同的该对象A.在特征提取上,传统的图像处理都是自行设计提取固定特征的算子,在深度学习上主要是利用CNN网络来广泛的提取图像的特征.笔记以吴恩达课程为基础,全面介绍机器学习相关术语,再以李航《统计学习方法》和周志华

Heisenberg-·2022-12-11 16:52

每天进步一点点 -- pytorch学习：简单线性回归问题

前言一直想学习人工智能，但是没有找到很好的课程，网上零碎的听了很多，大都是让我一脸蒙圈，不动手无法动脑，打算直接按照视频课程先搞起来，周志华的49讲是必须听的，对原理讲的很直观，不涉及实战和代码，pytorch

攀登程序猿·2022-12-11 16:22

周志华《机器学习》习题8.3——python实现基于决策树的AdaBoost集成学习器

本文将以周志华《机器学习》中的习题8.3的要求和数据，用python完成一个基于决策树的AdaBoost。

连长少尉·2022-12-11 11:28

周志华《机器学习》习题6.2——使用LIBSVM比较线性核和高斯核的差别

1.题目试使用LIBSVM，在西瓜数据集3.0α上分别用线性核和高斯核训练一个SVM，并比较其支持向量的差别。西瓜数据集3.0α如下图：2.LIBSVMlibsvm是目前比较著名的SVM软件包，由台湾大学林智仁(Chih-JenLin)教授等开发，它可以帮助程序员轻松的实现SVM二分类、多分类或者SVR等任务。LIBSVM官网：https://www.csie.ntu.edu.tw/~cjlin/

连长少尉·2022-12-11 11:28

周志华《机器学习》习题4.4——python实现基于信息熵进行划分选择的决策树算法

1.题目试编程实现基于信息熵进行话饭选择的决策树算法，并为表4.3中数据生成一棵决策树。表4.3如下：另外再附个txt版的，下次可以复制粘贴：青绿,蜷缩,浊响,清晰,凹陷,硬滑,0.697,0.460,是乌黑,蜷缩,沉闷,清晰,凹陷,硬滑,0.774,0.376,是乌黑,蜷缩,浊响,清晰,凹陷,硬滑,0.634,0.264,是青绿,蜷缩,沉闷,清晰,凹陷,硬滑,0.608,0.318,是浅白,蜷缩

连长少尉·2022-12-11 11:58

周志华《机器学习》习题7.3——python实现朴素贝叶斯分类器

1.题目试编程实现拉普拉斯修正的朴素贝叶斯分类器，并以西瓜数据集3.0为训练集，对p151“测1”样本进行判别。西瓜数据集3.0如下：测1如下：附文本版的西瓜数据集：青绿,蜷缩,浊响,清晰,凹陷,硬滑,0.697,0.460,是乌黑,蜷缩,沉闷,清晰,凹陷,硬滑,0.774,0.376,是乌黑,蜷缩,浊响,清晰,凹陷,硬滑,0.634,0.264,是青绿,蜷缩,沉闷,清晰,凹陷,硬滑,0.608,

连长少尉·2022-12-11 11:54

《机器学习》周志华(西瓜书)学习笔记第十一章特征选择与稀疏学习

机器学习总目录第十一章特征选择与稀疏学习11.1子集搜索与评价给定属性集，其中有些属性可能很关键、很有用，另一些属性则可能没什么用.我们将属性称为"特征"(feature)：对当前学习任务有用的属性称为"相关特征"(relevantfeature)、没什么用的属性称为"无关特征"(irrelevantfeature).从给定的特征集合中选择出相关特征子集的过程，称为"特征选择"(featurese

Sundm@lhq·2022-12-11 09:22

机器学习（周志华）第十一章特征选择与稀疏学习

关于周志华老师的《机器学习》这本书的学习笔记记录学习过程本博客记录Chapter11文章目录1子集搜索与评价2过滤式选择3包裹式选择4嵌入式选择与L1正则化5稀疏学习与字典学习6压缩感知1子集搜索与评价特征选择

YJY131248·2022-12-11 09:14

对数几率回归模型

不同的地方是周志华书本上线性回归模型中参数求解方法是最小二乘法（说白了就是求导取极值），当然也可以用梯度下降法。

臭小子222·2022-12-11 01:42

决策树代码代码——python源代码，看完你就完全懂了

决策树决策树在周志华的西瓜书里面已经介绍的很详细了(西瓜书P73-P79)，那也是我看过讲的最清楚的决策树讲解了，我这里就不献丑了，这篇文章主要是分享决策树的代码。

starry0001·2022-12-09 01:31

推荐频道

【周志华