西瓜书学习笔记系列第21页

python第二版课后答案第三章董付国_西瓜书——第三章课后习题

题3.1试析在什么情况下f(x)=w^(T)+b中不必考虑偏置项b首先要知道为什么要加偏置项？它的作用是什么？在之前学过的一次函数中，b其实就是函数在y轴的截距，控制着函数偏离原点的距离，那么在线性模型中应该也是类似作用。看了这个博主的文章，大概意思就是加偏置项是为了更好的拟合数据。其实我自己看到这个题第一反应是，如果让fi-fj，这样就可以消掉b了，自然也就不用考虑它。也就是让所有数据集都和任意

weixin_39902107·2022-11-10 07:32

西瓜书籍-机器学习（第三章：线性模型）

感兴趣的可以详细看西瓜书。）二：波士顿房价训练波士顿房价数据集是经典的线性回归训练数据集，已经集成到sklearn机器学习库中。训练数据集包含了13个属性和1个房价数据。

u010496938·2022-11-10 07:00

西瓜书-第3章-线性模型笔记

文章目录第3章-线性模型1-基本形式1.1-线性模型1.2-优势1.2.1-可解释性1.2.2-非线性模型2-线性回归2.1-定义与数学形式2.1.1-若xix_ixi是离散属性：2.2-回归任务最常用的性能度量：均方误差2.3-求解均方误差最小化=>最小二乘法2.4-多元线性回归2.5-对数线性回归2.6-广义线性模型3-对数几率回归4-线性判别分析5-多分类学习6-类别不平衡问题7-阅读材料8

一燊芊芊·2022-11-10 07:59

小白学机器学习西瓜书-第三章对数几率回归

小白学机器学习西瓜书-第三章对数几率回归3.3对数几率回归3.3.1对数几率函数3.3.1估计参数上一部分我们介绍了线性回归，包括简单的二元回归和多元回归，这两个主要解决的是拟合预测的问题，但如果我们碰到的并不是预测连续性值的问题而是分类问题呢

顾耒之·2022-11-10 07:57

【吃瓜教程】周志华机器学习西瓜书第三章答案

线性模型结构梳理3.1试析在什么情形下式3.2中不必考虑偏置项b答案一：偏置项b在数值上代表了自变量取0时，因变量的取值；1.当讨论变量x对结果y的影响，不用考虑b；2.可以用变量归一化（max-min或z-score）来消除偏置。答案二：线性规划的两个实例相减可以消去b，所以可以令训练集的每一个样本减去第一个样本，然后对新的样本进行线性回归，此时就可不必考虑偏置项。（有点儿类似变量归一化的意思）

MaxQuYY·2022-11-10 07:23

机器学习40讲-学习笔记

一序本文属于极客时间机器学习40讲学习笔记系列。学习目标：把握不同模型之间的内在关联，形成观察机器学习的宏观视角，找准进一步理解与创新的方向。

bohu83·2022-11-09 13:02

[机器学习]决策树算法的MATLAB实现

[机器学习]决策树算法的MATLAB实现这是一篇关于决策树算法的MATLAB实现的文章，也是我的课堂实验，学习的书籍为西瓜书。

Blue_carrot_·2022-11-09 13:00

机器学习笔记(3)---K-近邻算法(1)---约会对象魅力程度分类

参考资料《机器学习实战》，MachineLearninginAction，本文中简称MLiA《机器学习》周志华，本文简称西瓜书《Web安全之机器学习》刘焱著，本文中简称WSML(WebSecurityinMachineLearning

sweird·2022-11-09 12:14

计算机视觉论文-2021-06-23

本专栏是计算机视觉方向论文收集积累，时间：2021年6月23日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-08 19:49

计算机视觉论文-2021-06-22

本专栏是计算机视觉方向论文收集积累，时间：2021年6月23日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-08 19:18

西瓜书第一、二章节笔记

今日完成西瓜书第一二章节，这次已是三刷，但仍感触颇深，发现以前看完没有留下些“东西”，故此这一遍认真做好笔记。

Olaf-li·2022-11-08 17:34

初识机器学习

AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformancemeasureP,ifitsperformanceonT,asmeasuredbyP,improveswithexperienceE.’用周志华老师西瓜书

深度学习不如深度入眠·2022-11-08 13:09

使用sklearn进行mnist数据集分类

深度之眼-西瓜书课后代码importtimeimportmatplotlib.pyplotaspltimportnumpyasnpfromsklearn.datasetsimportfetch_openmlfromsklearn.linear_modelimportLogisticRegressionfromsklearn.model_selectionimporttrain_test_split

喵喵喵喵诺·2022-11-07 21:42

线性模型——西瓜书

笔记前一部分主要是对机器学习预备知识的概括，包括机器学习的定义/术语。学习器性能评估\度量以及比较。本章之后，将主要针对具体学习算法进行理解总结。主要概述第3章内容—线性模型线性模型谈及线性模型，其实我们很早就已经与它打过交道，还记得高中数学必修3课本中那个顽皮的“最小二乘法”吗？这就是线性模型的经典算法之一：根据给定的(x,y)(x,y)(x,y)点对。，求出一条与这些点拟合效果最好的直线y=a

big_matster·2022-11-07 08:15

golang学习笔记系列之一些标准库的学习(log，bytes，errors等)

loggolang内置了log包，实现了简单的日志服务。通过调用log包的函数，可以实现简单的日志打印功能。log包中有3个系列的日志打印函数，分别是print系列，panic系列和fatal系列。函数系列作用print单纯打印日志panic打印日志，抛出panic异常fatal打印日志，强制结束程序（os.Exit(1)）,defer函数不会执行packagemainimport("fmt""l

little亮_·2022-11-07 07:02

机器学习【吴恩达|周志华|李宏毅|算法】清单 #收藏#

网络转自：https://blog.csdn.net/julialove102123/article/details/78729602系列学习记录：1、吴恩达机器学习系列；2、李宏毅机器学习课程；3、周志华西瓜书

guomutian911·2022-11-04 09:59

计算机视觉论文-2021-05-31

本专栏是计算机视觉方向论文收集积累，时间：2021年5月31日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-03 08:58

【机器学习】西瓜书_周志华，python实现基于信息熵进行划分选择的决策树算法

python：实现基于信息熵进行划分选择的决策树算法本文主要介绍本人用python基于信息熵进行划分选择的决策树代码实现，参考教材为西瓜书第四章——决策树。

六六六六神·2022-11-02 23:11

机器学习-总结笔记-决策树-ID3/C4.5/CART

内容来自西瓜书和学校课件。

Toooooopia·2022-11-01 14:55

机器学习西瓜书---决策树学习笔记

决策树入门学习1.什么是决策树2.划分依据2.1信息增益2.2增益率2.3基尼指数3.剪枝处理3.1预剪枝3.2后剪枝3.3优缺点4.连续与缺失值4.1连续值处理4.2缺失值处理需要解决的两个问题问题（1）解决信息增益的推广问题（2）解决5.多变量决策树5.1分类边界5.2斜划分python代码可参照作品决策树python实现1.什么是决策树决策树（DecisionTree）是一类常见的机器学习方

阳云yy·2022-11-01 14:52

《机器学习实战笔记--第一部分分类算法：决策树 4》

下面我们以周志华老师的西瓜书为例画一个带有连续值分类的决策树。给定样本集D和连续属性a，假定a在D上出现了n个

z新一·2022-11-01 14:21

【西瓜书】第4章决策树---学习笔记

1.基本流程createBranch()函数的伪代码：检测数据集中的每个子项是否属于同一分类：Ifsoreturn类标签；Else寻找划分数据集的最好特征划分数据集创建分支节点for每个划分的子集调用函数createBranch并增加返回结果到分支节点中return分支节点2.划分选择2.1信息增益假定当前样本集合DDD中第kkk类样本所占的比例为Pk(k=1,2,...,∣y∣)P_k(k=1,

qq_31514061·2022-11-01 14:50

机器学习实战 —— 决策树（完整代码）

声明：此笔记是学习《机器学习实战》——PeterHarrington上的实例并结合西瓜书上的理论知识来完成，使用Python3，会与书上一些地方不一样。

学敲代码的小俊桑·2022-11-01 14:17

《机器学习》（西瓜书）第5章神经网络理解记录

神经网路中使用挤压函数（也就是阶跃函数，主要是sigmoid函数）可以将输入值转化到0-1范围内，此时的阶跃函数的输出就是单个神经元的输出。感知机模型实战：感知机是两层神经元。其中使用大量的逻辑关系来实现神经元的输出。同时感知机中的激活函数中的权值wi和阈值theta可以通过学习获得。其中涉及到的学习率将用来对权重进行调整。同时，需要说明的一点是：感知机中的权值只出现在神经元的输入函数和输出层之间

wyypersist·2022-11-01 03:03

机器学习之西瓜书+南瓜书：第五章神经网络

参考链接：1、谢文睿-《第五章：神经网络》2、周志华老师的《机器学习》一、神经元模型MP神经元二、感知机与多层网络2.1模型2.2策略2.3算法三、误差逆传播算法（BP神经网络）3.1模型3.2策略3.3算法四、全局最小与局部最小五、其他神经网络5.1RBF神经网络5.2ART神经网络5.3SOM网络5.4级联相关网络5.5Elman网络5.6Boltzmann网络六、深度学习

wonderball·2022-11-01 03:02

机器学习（吴恩达+西瓜书）学习笔记 - Neural Network

一、为什么要学习神经网络神经网络实际上是一个相对古老的算法，并且后来沉寂了一段时间，不过到了现在，它又成为许多机器学习问题的首选技术。我们已经有线性回归和逻辑回归算法了，为什么还要研究神经网络？我们首先来看几个机器学习问题作为例子，这几个问题的解决，都依赖于研究复杂的非线性分类器考虑这个监督学习分类的问题。我们已经有了对应的训练集，如果利用逻辑回归算法来解决这个问题。首先需要构造一个包含很多非线性

大齐zq·2022-11-01 03:32

【机器学习-西瓜书】第5章神经网络

5.1神经元模型定义：神经网络是由具有适应性的简单单元组成的、广泛并行互连的网络，其组织能够模拟神武神经系统对真实世界物体所做出的交互反应。这里的简单单元指神经元neuron。在神经网络中，每个神经元与其他神经元相连，当超过一个”阈值(threshold)“，该神经元将被激活，产生神经元输出。沿用至今的M-P神经元模型5.2感知机与多层网络感知机(perceptron)由两层神经元组成，输入层接收

wayaya112·2022-11-01 03:32

机器学习-西瓜书--第一章（3）

模式识别≈机器学习(目的≈算法的关系)数据挖掘=机器学习+数据库计算机视觉=图像处理+机器学习语音识别=语音处理+机器学习自然语言处理=文本处理+机器学习图灵（计算机和人工智能的鼻祖，分别对应于其著名的“图灵机”和“图灵测试”）在1950年的论文里，提出图灵试验的设想，即，隔墙对话，你将不知道与你谈话的，是人还是电脑。这无疑给计算机，尤其是人工智能，预设了一个很高的期望值。但是半个世纪过去了，人工

末世灯光·2022-11-01 03:31

机器学习西瓜书学习记录-第五章神经网络

第5章神经网络5.1神经元模型神经网络中最基本的成分是神经元模型。“M-P神经元模型”，又称“阈值逻辑单元”在模型中，神经元接收到来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”处理以产生神经元的输出。实际常用Sigmoid函数作为激活函数，它把可能在较大范围内变化的输入值挤压到(0,1)输出值范围内，

smile~。·2022-11-01 03:29

《机器学习》西瓜书第三章回归（南瓜书辅助）

第三章3.1一元线性回归假如说现在有一个正态分布，正态分布由mu和sigama决定，极大似然估计就是用来确定正态分布的这两个参数的3.2多元线性回归对线性回归方程进行化简将b=wd+1∗1b=w_{d+1}*1b=wd+1∗1因此要在向量www后面补一个wd+1w_{d+1}wd+1,向量xxx后面补一个111，化成两个向量内积的形式f(xi)=(w1w2⋯wdwd+1)(xi1xi2⋮xid1)

HammerDeng·2022-10-30 17:23

机器学习西瓜书笔记：支持向量机SVM（support vector machines）

一、概念支持向量机分类学习的基本思想：基于训练样本集D={(x1,y1),(x2,y2),....,(xm,ym)},yi∈{−1,+1}D=\{(x_1,y_1),(x_2,y_2),....,(x_m,y_m)\},yi∈\{-1,+1\}D={(x1,y1),(x2,y2),....,(xm,ym)},yi∈{−1,+1}，在样本空间找到一个划分超平面，将不同类别样本分开支持向量机：分类问题

sunMoonStar_c·2022-10-30 02:38

比啃西瓜书更好的机器学习视频教程！

在当下行业大地震的环境中，如何不让自己陷入被替代或被裁员的危机？掌握硬技术，向技术要红利非常重要！继续看下去，你就已经领先90%的程序猿小哥哥们了！N1机器学习领域的“常青树”当今社会已经不再歌颂个人英雄主义，不再传唱“一夫当关，万夫莫敌”这类流芳百世的传世之奇。这个时代更加传颂的是“团结就是力量”、“众人拾柴火焰高”等凝聚力量干大事的显著优势。来源：谷歌图片“团队”这一概念和意识已经深刻融入于工

机器学习与AI生成创作·2022-10-27 21:14

比啃西瓜书更好的机器学习视频教程

在当下行业大地震的环境中，如何不让自己陷入被替代或被裁员的危机？掌握硬技术，向技术要红利非常重要！继续看下去，你就已经领先90%的程序猿小哥哥们了！N1机器学习领域的“常青树”当今社会已经不再歌颂个人英雄主义，不再传唱“一夫当关，万夫莫敌”这类流芳百世的传世之奇。这个时代更加传颂的是“团结就是力量”、“众人拾柴火焰高”等凝聚力量干大事的显著优势。来源：谷歌图片“团队”这一概念和意识已经深刻融入于工

Amusi（CVer）·2022-10-27 21:43

周志华的《机器学习》西瓜书真的很难啃透吗？

计算机视觉研究院·2022-10-27 21:43

【一起啃书】西瓜书——支持向量机

直接跳到支持向量机的动机是，遇到了核函数，加上这一节的很多难点在多类课中学了又学，却总是学不明白，所以准备系统的了解支持向量机的大概，并重点学习我的目标知识：核函数的意义、作用，哪些场景会应用到核函数核密度估计、高斯核函数与核函数的关系对支持向量的理解maximalmarginclassifier（寻找类别边界点，在边界点中间确定一点，作为阈值，使得边界点到阈值之间的距离，称为margin，最大，

反科研pua所所长·2022-10-27 21:13

一起啃西瓜书（四）

一起啃西瓜书（四）前言基本流程信息增益CART决策树剪枝处理预剪枝后剪枝连续与缺失连续值缺失多变量决策树前言本章内容为西瓜书第四章决策树，前面三章内容后期会补的注释：图片来源为网络寻找的西瓜书图示，与周志华老师的西瓜书实体书一致

唐十·2022-10-27 21:43

全国数据分析亚军教你0基础开展一个机器学习项目

我是一名0基础靠机器学习拿1.5万奖金的文科本科生跟您一样，我的学习刚开始走过很多弯路：硬啃周志华老师的《机器学习》西瓜书，一周才读了1页看吴恩达老师的《机器学习入门课》，看完连“线性回归”是什么都不知道分不清机器学习算法和算法的区别

向瑶函·2022-10-27 07:58

西瓜书学习笔记 | 第14章概率图模型

概率图模型（probabilisticmodel）（变量关系图）：是一类用图来表达变量相关关系的概率模型。一个结点：表示一个或一组随机变量。边：表示变量间的概率相关关系。14.1隐马尔科夫模型概率模型：将学习任务归结于计算变量的概率分布。推断：利用已知变量推测未知变量的条件分布。“生成式”模型：考虑联合概率分布P(Y,R|O)。“判别式”模型：考虑条件分布P(Y|O)。（Y：变量集合O：可观测变量

小沈同学_·2022-10-25 19:47

机器学习中理解过拟合，训练集、验证集、测试集，模型评估、模型选择，Hold-out Method（留出法）K-fold Cross-Validation(k折交叉验证法）

读西瓜书笔记（二）模型评估与选择（一）误差与过拟合1.经验误差(empiricalerror)/训练误差(trainingerror)与泛化误差(generalizationerror)错误率(errorrate

謙卑·2022-10-25 14:08

周志华老师开课啦！机器学习视频课上线了（附地址）

本课程使用的教材《机器学习》被网友昵称为“西瓜书”，已被海内外500余院校使用，教材作者正是本课程的主讲人。机器学习方法与理论的学习

风度78·2022-10-24 18:46

启蒙教师周志华亲自讲解，机器学习视频课上线了

本课程使用的教材《机器学习》被网友昵称为“西瓜书”，已被海内外500余院校使用，教材作者正是本课程的主讲人。机器学习方法与理论的学习

Python数据挖掘·2022-10-24 18:45

计算机视觉论文-2021-04-01

本专栏是计算机视觉方向论文收集积累，时间：2021年4月1日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-10-24 18:31

机器学习入门-西瓜书总结笔记第十五章

西瓜书第十五章-规则学习一、基本概念二、序贯覆盖三、剪枝优化四、一阶规则学习五、归纳逻辑程序设计1.最小一般泛化2.逆归结一、基本概念机器学习中的“规则”（rule）通常是指语义明确、能描述数据分布所隐含的客观规律或领域概念

一入材料深似海·2022-10-24 18:25

【机器学习-西瓜书】-第4章-决策树-学习笔记

4.1基本流程决策树也称为"判定树"基于树结构进行决策有时指学习方法，有时指学得的树结构根结点内部结点对应属性测试叶结点决策结果每个结点包含的样本集合根据属性测试的结果划分到子结点中根结点包含样本全集从根结点到每个叶节结点的路径对应一个判定测试序列核心策略分而治之目的产生一棵泛化能力强，可以处理未见示例能力强的决策树现在决策树中最主流的是用在集成学习里构成森林的模型算法流程递归返回的情况(1)代表

郑儿大人·2022-10-24 18:55

机器学习入门-西瓜书总结笔记第八章

西瓜书第八章-集成学习一、个体与集成二、Boosting三、Bagging与随机森林1.Bagging2.随机森林四、结合策略1.平均法2.投票法3.学习法五、多样性1.误差-分歧分解2.多样性度量3.

一入材料深似海·2022-10-24 18:55

【机器学习-西瓜书】-第3章-线性回归-学习笔记-下

3.3对数几率回归针对二分类的分类模型中给出xxx希望模型得到的f(x)f(x)f(x)代表正样本的概率线性回归：f(x)∈Rf(x)\inRf(x)∈R分类回归：f(x)∈[0,1]f(x)\in[0,1]f(x)∈[0,1]分类任务下使用线性回归可以使用单调可微函数将分类任务的真实标记yyy与线性回归模型的预测值联系起来例，可使用单位阶跃函数相当于给线性回归的函数套了一个映射函数单位阶跃函数H

郑儿大人·2022-10-24 18:25

【机器学习-西瓜书】-第3章-线性回归-学习笔记-上

3.1基本形式通过属性的线性组合来进行预测的函数，即f(x)=w1x1+w2x2+…+wdxd+bf(\boldsymbol{x})=w_{1}x_{1}+w_{2}x_{2}+\ldots+w_{d}x_{d}+bf(x)=w1x1+w2x2+…+wdxd+bf(x)=wTx+bf(\boldsymbol{x})=\boldsymbol{w}^{\mathrm{T}}\boldsymbol{x}

郑儿大人·2022-10-24 18:24

【机器学习-西瓜书】-第1章-绪论-学习笔记

1.1引言什么是机器学习？本质利用经验来改善系统自身的性能经验，通常以“数据"形式存在定义从数据中产生"模型"的算法，即"学习算法"计算机科学与机器学习之间的区别计算机科学：研究关于"算法"的学问机器学习：研究关于”学习算法"的学问(个人理解为，机器学习更与数据相联系，需结合具体数据，也就是要考虑数据的特点)补充模型本书中泛指从数据中学得的结果其他全局性结果(例如一棵决策树)“模式"：局部性结果(

郑儿大人·2022-10-24 18:54

【机器学习-西瓜书】-第2章-模型评估与选择-学习笔记

2.1经验误差与过拟合概念概念解释页码错误率分类错误的样本数占样本总数的比例23精度精度=(1-错误率)x100%23误差学习器的实际预测输出与样本的真实输出之间的差异称为"误差"(误差期望)23训练误差学习器在训练集上的误差称为"训练误差"23泛化误差学习器在新样本上的误差称为"泛化误差"23过拟合欠拟合训练样本学得“太好"，泛化性能下降对训练样本的一般性质尚未学好过配欠配通常学习能力过于强大导