西瓜书第18页

《机器学习》（西瓜书）第一章，第二章

第一章绪论1.1定义根据以往积累的经验，再通过对经验（数据）的利用，可以对新情况作出有效推断。其中通过数据构建模型，称为“学习算法”。1.2基本术语数据的集合为“数据集”，其中每条记录是一个描述，称为“样本”。对于一个事物的单个属性，称为“特征”，其属性具体内容为“属性值”。对于一个记录，在坐标轴上用一个方向表示，则每个事物都有自己的点，称为“特征向量”。一个样本的特征数为“维数”。通过“学习”或

m0_72969350·2022-11-16 07:36

（西瓜书笔记）

（西瓜书笔记）（一）神经元模型神经网络(neuralnetworks)：神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。

謙卑·2022-11-14 11:59

机器学习（西瓜书）11、特征选择与稀疏学习

在机器学习中特征选择是一个重要的“数据预处理”（datapreprocessing）过程，即试图从数据集的所有特征中挑选出与当前学习任务相关的特征子集，接着再利用数据子集来训练学习器；稀疏学习则是围绕着稀疏矩阵的优良性质，来完成相应的学习任务。11.1子集搜索与评价一般地，我们可以用很多属性/特征来描述一个示例，例如对于一个人可以用性别、身高、体重、年龄、学历、专业、是否吃货等属性来描述，那现在想

Handsome_Zpp·2022-11-14 10:14

计算机视觉论文-2021-07-06

本专栏是计算机视觉方向论文收集积累，时间：2021年7月6日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-14 09:06

计算机视觉论文-2021-06-14

本专栏是计算机视觉方向论文收集积累，时间：2021年6月14日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-14 09:36

决策树从理论到实践

生成决策树在周志华老师的西瓜书中的伪代码参考如下。这段代码不难，简单分析：使用递归算法生成决策树。在样本数比较多的时候，程序效率可能不会很好，同时可能会爆栈。可以使用BFS或者DFS进行改写。

gokingd·2022-11-13 14:34

机器学习概论（西瓜书一二章）

概论基本术语数据集：一组记录的集合，其中每条记录是关于一个事件或者对象的的描述属性/特征：反映事件或者对象在某方面的表现或者性质的事项，属性上的取值是属性值属性空间/样本空间/输入空间：属性张成的空间特征向量：由于空间中的每一个点对应一个坐标向量，因此把一个事例成为特征向量训练数据：从数据中学得模型的过程成为学习或者训练，训练过程中使用的数据称为训练数据集，其中每个样本称为一个训练样本假设：学得模

既是张大牙更是张大侠·2022-11-13 11:36

西瓜书第三章线性模型

用电脑来记比较麻烦所以选择了手写笔记，主要是学习了一元线性回归，多元线性回归，对数几率回归，和线性判别分析。

Seven7_Lu·2022-11-13 00:29

《机器学习》周志华(西瓜书)学习笔记第三章线性模型

机器学习西瓜书学习笔记总目录世上只有一种投资是只赚不赔的，那就是学习。

Sundm@lhq·2022-11-13 00:29

计算机视觉论文-2021-08-02

本专栏是计算机视觉方向论文收集积累，时间：2021年8月2日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-11 13:54

python第二版课后答案第三章董付国_西瓜书——第三章课后习题

题3.1试析在什么情况下f(x)=w^(T)+b中不必考虑偏置项b首先要知道为什么要加偏置项？它的作用是什么？在之前学过的一次函数中，b其实就是函数在y轴的截距，控制着函数偏离原点的距离，那么在线性模型中应该也是类似作用。看了这个博主的文章，大概意思就是加偏置项是为了更好的拟合数据。其实我自己看到这个题第一反应是，如果让fi-fj，这样就可以消掉b了，自然也就不用考虑它。也就是让所有数据集都和任意

weixin_39902107·2022-11-10 07:32

西瓜书籍-机器学习（第三章：线性模型）

感兴趣的可以详细看西瓜书。）二：波士顿房价训练波士顿房价数据集是经典的线性回归训练数据集，已经集成到sklearn机器学习库中。训练数据集包含了13个属性和1个房价数据。

u010496938·2022-11-10 07:00

西瓜书-第3章-线性模型笔记

文章目录第3章-线性模型1-基本形式1.1-线性模型1.2-优势1.2.1-可解释性1.2.2-非线性模型2-线性回归2.1-定义与数学形式2.1.1-若xix_ixi是离散属性：2.2-回归任务最常用的性能度量：均方误差2.3-求解均方误差最小化=>最小二乘法2.4-多元线性回归2.5-对数线性回归2.6-广义线性模型3-对数几率回归4-线性判别分析5-多分类学习6-类别不平衡问题7-阅读材料8

一燊芊芊·2022-11-10 07:59

小白学机器学习西瓜书-第三章对数几率回归

小白学机器学习西瓜书-第三章对数几率回归3.3对数几率回归3.3.1对数几率函数3.3.1估计参数上一部分我们介绍了线性回归，包括简单的二元回归和多元回归，这两个主要解决的是拟合预测的问题，但如果我们碰到的并不是预测连续性值的问题而是分类问题呢

顾耒之·2022-11-10 07:57

【吃瓜教程】周志华机器学习西瓜书第三章答案

线性模型结构梳理3.1试析在什么情形下式3.2中不必考虑偏置项b答案一：偏置项b在数值上代表了自变量取0时，因变量的取值；1.当讨论变量x对结果y的影响，不用考虑b；2.可以用变量归一化（max-min或z-score）来消除偏置。答案二：线性规划的两个实例相减可以消去b，所以可以令训练集的每一个样本减去第一个样本，然后对新的样本进行线性回归，此时就可不必考虑偏置项。（有点儿类似变量归一化的意思）

MaxQuYY·2022-11-10 07:23

[机器学习]决策树算法的MATLAB实现

[机器学习]决策树算法的MATLAB实现这是一篇关于决策树算法的MATLAB实现的文章，也是我的课堂实验，学习的书籍为西瓜书。

Blue_carrot_·2022-11-09 13:00

机器学习笔记(3)---K-近邻算法(1)---约会对象魅力程度分类

参考资料《机器学习实战》，MachineLearninginAction，本文中简称MLiA《机器学习》周志华，本文简称西瓜书《Web安全之机器学习》刘焱著，本文中简称WSML(WebSecurityinMachineLearning

sweird·2022-11-09 12:14

计算机视觉论文-2021-06-23

本专栏是计算机视觉方向论文收集积累，时间：2021年6月23日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-08 19:49

计算机视觉论文-2021-06-22

本专栏是计算机视觉方向论文收集积累，时间：2021年6月23日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-08 19:18

西瓜书第一、二章节笔记

今日完成西瓜书第一二章节，这次已是三刷，但仍感触颇深，发现以前看完没有留下些“东西”，故此这一遍认真做好笔记。

Olaf-li·2022-11-08 17:34

初识机器学习

AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformancemeasureP,ifitsperformanceonT,asmeasuredbyP,improveswithexperienceE.’用周志华老师西瓜书

深度学习不如深度入眠·2022-11-08 13:09

使用sklearn进行mnist数据集分类

深度之眼-西瓜书课后代码importtimeimportmatplotlib.pyplotaspltimportnumpyasnpfromsklearn.datasetsimportfetch_openmlfromsklearn.linear_modelimportLogisticRegressionfromsklearn.model_selectionimporttrain_test_split

喵喵喵喵诺·2022-11-07 21:42

线性模型——西瓜书

笔记前一部分主要是对机器学习预备知识的概括，包括机器学习的定义/术语。学习器性能评估\度量以及比较。本章之后，将主要针对具体学习算法进行理解总结。主要概述第3章内容—线性模型线性模型谈及线性模型，其实我们很早就已经与它打过交道，还记得高中数学必修3课本中那个顽皮的“最小二乘法”吗？这就是线性模型的经典算法之一：根据给定的(x,y)(x,y)(x,y)点对。，求出一条与这些点拟合效果最好的直线y=a

big_matster·2022-11-07 08:15

机器学习【吴恩达|周志华|李宏毅|算法】清单 #收藏#

网络转自：https://blog.csdn.net/julialove102123/article/details/78729602系列学习记录：1、吴恩达机器学习系列；2、李宏毅机器学习课程；3、周志华西瓜书

guomutian911·2022-11-04 09:59

计算机视觉论文-2021-05-31

本专栏是计算机视觉方向论文收集积累，时间：2021年5月31日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-03 08:58

【机器学习】西瓜书_周志华，python实现基于信息熵进行划分选择的决策树算法

python：实现基于信息熵进行划分选择的决策树算法本文主要介绍本人用python基于信息熵进行划分选择的决策树代码实现，参考教材为西瓜书第四章——决策树。

六六六六神·2022-11-02 23:11

机器学习-总结笔记-决策树-ID3/C4.5/CART

内容来自西瓜书和学校课件。

Toooooopia·2022-11-01 14:55

机器学习西瓜书---决策树学习笔记

决策树入门学习1.什么是决策树2.划分依据2.1信息增益2.2增益率2.3基尼指数3.剪枝处理3.1预剪枝3.2后剪枝3.3优缺点4.连续与缺失值4.1连续值处理4.2缺失值处理需要解决的两个问题问题（1）解决信息增益的推广问题（2）解决5.多变量决策树5.1分类边界5.2斜划分python代码可参照作品决策树python实现1.什么是决策树决策树（DecisionTree）是一类常见的机器学习方

阳云yy·2022-11-01 14:52

《机器学习实战笔记--第一部分分类算法：决策树 4》

下面我们以周志华老师的西瓜书为例画一个带有连续值分类的决策树。给定样本集D和连续属性a，假定a在D上出现了n个

z新一·2022-11-01 14:21

【西瓜书】第4章决策树---学习笔记

1.基本流程createBranch()函数的伪代码：检测数据集中的每个子项是否属于同一分类：Ifsoreturn类标签；Else寻找划分数据集的最好特征划分数据集创建分支节点for每个划分的子集调用函数createBranch并增加返回结果到分支节点中return分支节点2.划分选择2.1信息增益假定当前样本集合DDD中第kkk类样本所占的比例为Pk(k=1,2,...,∣y∣)P_k(k=1,

qq_31514061·2022-11-01 14:50

机器学习实战 —— 决策树（完整代码）

声明：此笔记是学习《机器学习实战》——PeterHarrington上的实例并结合西瓜书上的理论知识来完成，使用Python3，会与书上一些地方不一样。

学敲代码的小俊桑·2022-11-01 14:17

《机器学习》（西瓜书）第5章神经网络理解记录

神经网路中使用挤压函数（也就是阶跃函数，主要是sigmoid函数）可以将输入值转化到0-1范围内，此时的阶跃函数的输出就是单个神经元的输出。感知机模型实战：感知机是两层神经元。其中使用大量的逻辑关系来实现神经元的输出。同时感知机中的激活函数中的权值wi和阈值theta可以通过学习获得。其中涉及到的学习率将用来对权重进行调整。同时，需要说明的一点是：感知机中的权值只出现在神经元的输入函数和输出层之间

wyypersist·2022-11-01 03:03

机器学习之西瓜书+南瓜书：第五章神经网络

参考链接：1、谢文睿-《第五章：神经网络》2、周志华老师的《机器学习》一、神经元模型MP神经元二、感知机与多层网络2.1模型2.2策略2.3算法三、误差逆传播算法（BP神经网络）3.1模型3.2策略3.3算法四、全局最小与局部最小五、其他神经网络5.1RBF神经网络5.2ART神经网络5.3SOM网络5.4级联相关网络5.5Elman网络5.6Boltzmann网络六、深度学习

wonderball·2022-11-01 03:02

机器学习（吴恩达+西瓜书）学习笔记 - Neural Network

一、为什么要学习神经网络神经网络实际上是一个相对古老的算法，并且后来沉寂了一段时间，不过到了现在，它又成为许多机器学习问题的首选技术。我们已经有线性回归和逻辑回归算法了，为什么还要研究神经网络？我们首先来看几个机器学习问题作为例子，这几个问题的解决，都依赖于研究复杂的非线性分类器考虑这个监督学习分类的问题。我们已经有了对应的训练集，如果利用逻辑回归算法来解决这个问题。首先需要构造一个包含很多非线性

大齐zq·2022-11-01 03:32

【机器学习-西瓜书】第5章神经网络

5.1神经元模型定义：神经网络是由具有适应性的简单单元组成的、广泛并行互连的网络，其组织能够模拟神武神经系统对真实世界物体所做出的交互反应。这里的简单单元指神经元neuron。在神经网络中，每个神经元与其他神经元相连，当超过一个”阈值(threshold)“，该神经元将被激活，产生神经元输出。沿用至今的M-P神经元模型5.2感知机与多层网络感知机(perceptron)由两层神经元组成，输入层接收

wayaya112·2022-11-01 03:32

机器学习-西瓜书--第一章（3）

模式识别≈机器学习(目的≈算法的关系)数据挖掘=机器学习+数据库计算机视觉=图像处理+机器学习语音识别=语音处理+机器学习自然语言处理=文本处理+机器学习图灵（计算机和人工智能的鼻祖，分别对应于其著名的“图灵机”和“图灵测试”）在1950年的论文里，提出图灵试验的设想，即，隔墙对话，你将不知道与你谈话的，是人还是电脑。这无疑给计算机，尤其是人工智能，预设了一个很高的期望值。但是半个世纪过去了，人工

末世灯光·2022-11-01 03:31

机器学习西瓜书学习记录-第五章神经网络

第5章神经网络5.1神经元模型神经网络中最基本的成分是神经元模型。“M-P神经元模型”，又称“阈值逻辑单元”在模型中，神经元接收到来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”处理以产生神经元的输出。实际常用Sigmoid函数作为激活函数，它把可能在较大范围内变化的输入值挤压到(0,1)输出值范围内，

smile~。·2022-11-01 03:29

《机器学习》西瓜书第三章回归（南瓜书辅助）

第三章3.1一元线性回归假如说现在有一个正态分布，正态分布由mu和sigama决定，极大似然估计就是用来确定正态分布的这两个参数的3.2多元线性回归对线性回归方程进行化简将b=wd+1∗1b=w_{d+1}*1b=wd+1∗1因此要在向量www后面补一个wd+1w_{d+1}wd+1,向量xxx后面补一个111，化成两个向量内积的形式f(xi)=(w1w2⋯wdwd+1)(xi1xi2⋮xid1)

HammerDeng·2022-10-30 17:23

机器学习西瓜书笔记：支持向量机SVM（support vector machines）

一、概念支持向量机分类学习的基本思想：基于训练样本集D={(x1,y1),(x2,y2),....,(xm,ym)},yi∈{−1,+1}D=\{(x_1,y_1),(x_2,y_2),....,(x_m,y_m)\},yi∈\{-1,+1\}D={(x1,y1),(x2,y2),....,(xm,ym)},yi∈{−1,+1}，在样本空间找到一个划分超平面，将不同类别样本分开支持向量机：分类问题

sunMoonStar_c·2022-10-30 02:38

比啃西瓜书更好的机器学习视频教程！

在当下行业大地震的环境中，如何不让自己陷入被替代或被裁员的危机？掌握硬技术，向技术要红利非常重要！继续看下去，你就已经领先90%的程序猿小哥哥们了！N1机器学习领域的“常青树”当今社会已经不再歌颂个人英雄主义，不再传唱“一夫当关，万夫莫敌”这类流芳百世的传世之奇。这个时代更加传颂的是“团结就是力量”、“众人拾柴火焰高”等凝聚力量干大事的显著优势。来源：谷歌图片“团队”这一概念和意识已经深刻融入于工

机器学习与AI生成创作·2022-10-27 21:14

比啃西瓜书更好的机器学习视频教程

在当下行业大地震的环境中，如何不让自己陷入被替代或被裁员的危机？掌握硬技术，向技术要红利非常重要！继续看下去，你就已经领先90%的程序猿小哥哥们了！N1机器学习领域的“常青树”当今社会已经不再歌颂个人英雄主义，不再传唱“一夫当关，万夫莫敌”这类流芳百世的传世之奇。这个时代更加传颂的是“团结就是力量”、“众人拾柴火焰高”等凝聚力量干大事的显著优势。来源：谷歌图片“团队”这一概念和意识已经深刻融入于工

Amusi（CVer）·2022-10-27 21:43

周志华的《机器学习》西瓜书真的很难啃透吗？

计算机视觉研究院·2022-10-27 21:43

【一起啃书】西瓜书——支持向量机

直接跳到支持向量机的动机是，遇到了核函数，加上这一节的很多难点在多类课中学了又学，却总是学不明白，所以准备系统的了解支持向量机的大概，并重点学习我的目标知识：核函数的意义、作用，哪些场景会应用到核函数核密度估计、高斯核函数与核函数的关系对支持向量的理解maximalmarginclassifier（寻找类别边界点，在边界点中间确定一点，作为阈值，使得边界点到阈值之间的距离，称为margin，最大，

反科研pua所所长·2022-10-27 21:13

一起啃西瓜书（四）

一起啃西瓜书（四）前言基本流程信息增益CART决策树剪枝处理预剪枝后剪枝连续与缺失连续值缺失多变量决策树前言本章内容为西瓜书第四章决策树，前面三章内容后期会补的注释：图片来源为网络寻找的西瓜书图示，与周志华老师的西瓜书实体书一致

唐十·2022-10-27 21:43

全国数据分析亚军教你0基础开展一个机器学习项目

我是一名0基础靠机器学习拿1.5万奖金的文科本科生跟您一样，我的学习刚开始走过很多弯路：硬啃周志华老师的《机器学习》西瓜书，一周才读了1页看吴恩达老师的《机器学习入门课》，看完连“线性回归”是什么都不知道分不清机器学习算法和算法的区别

向瑶函·2022-10-27 07:58

西瓜书学习笔记 | 第14章概率图模型

概率图模型（probabilisticmodel）（变量关系图）：是一类用图来表达变量相关关系的概率模型。一个结点：表示一个或一组随机变量。边：表示变量间的概率相关关系。14.1隐马尔科夫模型概率模型：将学习任务归结于计算变量的概率分布。推断：利用已知变量推测未知变量的条件分布。“生成式”模型：考虑联合概率分布P(Y,R|O)。“判别式”模型：考虑条件分布P(Y|O)。（Y：变量集合O：可观测变量

小沈同学_·2022-10-25 19:47

机器学习中理解过拟合，训练集、验证集、测试集，模型评估、模型选择，Hold-out Method（留出法）K-fold Cross-Validation(k折交叉验证法）

读西瓜书笔记（二）模型评估与选择（一）误差与过拟合1.经验误差(empiricalerror)/训练误差(trainingerror)与泛化误差(generalizationerror)错误率(errorrate

謙卑·2022-10-25 14:08

周志华老师开课啦！机器学习视频课上线了（附地址）

本课程使用的教材《机器学习》被网友昵称为“西瓜书”，已被海内外500余院校使用，教材作者正是本课程的主讲人。机器学习方法与理论的学习

风度78·2022-10-24 18:46

启蒙教师周志华亲自讲解，机器学习视频课上线了