西瓜书第3页

深度学习入门（四）——机器学习基础

机器学习基础机器学习-西瓜书（一）机器学习-西瓜书（二）机器学习-西瓜书（三）机器学习-西瓜书（四）机器学习-西瓜书（五）sklearn机器学习（一）sklearn机器学习（二）sklearn机器学习（

_归尘_·2023-09-09 05:34

偏差-方差分解

偏差-方差分解的内容其实在看西瓜书的时候已经学习过，但印象并不深刻（可能和西瓜书上的符号比较繁琐有关吧），此次重温，脉络清晰了不少。为避免过拟合，我们经常会在模型的拟合能力和复杂度之间进行权衡。

单调不减·2023-09-08 08:30

表示学习与深度学习

西瓜书、统计学习方法以及花书第二部分都已经草草看过一遍，前后历时大概3个月，期间也根据Hands-on一书敲了一些代码实现简单的模型。至此可说对于机器学习算是入了门了。

单调不减·2023-09-05 11:43

西瓜书 --第三章笔记

因为这次不是第一次刷，所以笔记较为简略，只是提供一个框架，书上会比较详细，我做笔记的目的是：当在我回看的时候，能自动去脑补后面的内容，会往深处想，记不起来的再去翻书，这样比较高效，也节省时间。

咸鱼在厦大·2023-09-04 02:17

第八章集成学习

试答系列：“西瓜书”-周志华《机器学习》习题试答8.1假设抛硬币正面朝上的概率weip，反面朝上的概率为1-p。

lsly·2023-09-03 04:18

机器学习-神经网络（西瓜书）

神经网络5.1神经元模型在生物神经网络中，神经元之间相互连接，当一个神经元受到的外界刺激足够大时，就会产生兴奋（称为"激活"），并将剩余的"刺激"向相邻的神经元传导。神经元模型模型中xix_ixi表示各个神经元传来的刺激，刺激强度有大有小，所以wiw_iwi表示不同刺激的权重，Θ表示阈值。一段刺激经过加权汇总再减去神经元的阈值后，经过激活函数fff处理，就是一个输出y，它如果不为0，那么y就会作用

极恶狒狒·2023-08-30 06:46

第二十二章原理篇：UP-DETR

最近一直在忙各种各样的面试，顺便重新刷了一遍西瓜书。感觉自己快八股成精了，但是一到写代码的环节就拉跨，人真是麻了。许愿搬家前可以拿到offer！

江米江米·2023-08-29 09:20

机器学习入门书：动手学机器学习

上海交通大学ACM班创办人俞勇教授团队编写，"西瓜书"作者周志华力荐的机器学习入门书：《动手学机器学习》出版啦！

人邮异步社区·2023-08-28 02:46

「Python」机器学习之线性判别分析（代码，不调包）

机器学习之线性判别分析（代码，不调包）前言1线性判别分析（LDA）2实现2.1LDA实现2.2数据集示例3最后前言语言：python库：numpy,matplotlib教材参考：《机器学习》——周志华2016版（“西瓜书

武的阶乘·2023-08-25 23:48

西瓜书扩展_拉格朗日对偶

原始目标函数（有约束条件）对于任意一个带约束的优化都可以写成这样的形式：新构造的目标函数（没有约束条件）因为我们要求解的是最小化问题，所以一个直观的想法是如果我能够构造一个函数，使得该函数在可行解区域内与原目标函数完全一致，而在可行解区域外的数值非常大，甚至是无穷大，那么这个没有约束条件的新目标函数的优化问题就与原来有约束条件的原始目标函数的优化是等价的问题。通过给每一个约束条件加上一个拉格朗日乘

我_7·2023-08-24 11:19

机器学习西瓜书——基尼指数

CART决策树使用“基尼指数”（Giniindex）来选择划分属性。书上并没有写出具体的例子供参考，这里给出一个例子。首先先列出求取基尼指数所需要用的公式。数据集D的纯度可用基尼值来度量。Gini(D)越小，则数据集D的纯度越高。（Pk指的是正例在总体中的比例）属性a的基尼指数定义为：求取得出属性a的基尼指数后，再求取其他属性的基尼指数，最后比较获得基尼指数最小的属性为最优划分属性，并继续求取次级

张=小红=·2023-08-22 11:08

决策树代码实例(全部代码,包含绘图,ID.3算法,西瓜书示例)

importmathimportmatplotlib.pyplotaspltD=[['青绿','蜷缩','浊响','清晰','凹陷','硬滑','是'],['乌黑','蜷缩','沉闷','清晰','凹陷','硬滑','是'],['乌黑','蜷缩','浊响','清晰','凹陷','硬滑','是'],['青绿','蜷缩','沉闷','清晰','凹陷','硬滑','是'],['浅白','蜷缩','浊响'

TomcatLikeYou·2023-08-20 08:43

西瓜书之神经网络

一，神经元模型所谓神经网络，目前用得最广泛的一个定义是“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应”。M-P神经元M-P神经元：接收n个输入(通常是来自其他神经元)，并给各个输入赋予权重计算加权和，然后和自身特有的阈值θ进行比较(作减法)，最后经过激活函数f(模拟“抑制"和“激活”)处理得到输出(通常是给下一个神经元)神经元

Allenspringfestival·2023-08-17 07:56

西瓜书-线性模型

线性模型.png1.基本形式1.线性模型：试图学得一个通过属性的线性组合来进行预测函数2.非线性模型：在线性模型的基础上引入层级结构或高维映射3.可解释性：w直观表达了各属性在预测中的重要性2.线性回归线性回归：试图学得一个线性模型以尽可能准确地预测实值输出标记image.png对离散属性，若属性间存在“序”关系，可通过连续化将其转化为连续值；若属性间不存在“序”关系，假定有k个属性值，则通常转化

estate47·2023-08-16 19:01

西瓜书+南瓜书第六章支持向量机

目录前言一、间隔与支持向量二、对偶问题三、核函数四、软间隔与正则化前言即使现在深度学习神经网络的影响力逐渐增强，但SVM在中小型数据集上依旧有着可以和神经网络相抗衡的模型鲁棒性，在曾经的机器学习界有着很深的影响力。一、间隔与支持向量支持向量机很重要的一个应用就是用来分类，在给定一个训练样本集的情况下，如何能基于训练样本集找到一个划分超平面，将不同类别的样本划分开来，如下图所示，能够将不同类别的样本

talentsta·2023-08-15 08:46

【机器学习】十大机器学习基础算法

对于一个初学者来讲，周志华教授的西瓜书是一个很好的选择，以及相关机器学习视频课程是必不可少的，在这里我先分享基础学习视频机器学习课程（20集），网上有很多公开课程，大家可以

infinite_with·2023-08-14 05:15

假设空间和版本空间，的java解法(西瓜书,习题)

换了个电脑,没有python环境,用java先搞吧.西瓜书（机器学习周志华）的计算方案/***记*色泽：青绿=1,乌黑=2，浅白=3，通配符=4*根蒂：蜷缩=1,硬挺=2，稍蜷=3，通配符=4*敲声：浊响

TomcatLikeYou·2023-08-11 06:57

机器学习啃书计划

机器学习啃书计划reference：西瓜书和吴恩达视频https://github.com/Vay-keen/Machine-learning-learning-notes/blob/master/周志华

IKKA·2023-08-08 18:40

西瓜书读书笔记整理（五）—— 第四章决策树

第四章决策树4.1基本流程4.1.1什么是决策树算法4.1.2决策树学习的目的4.1.3决策树学习基本过程4.1.4决策树学习基本算法4.1.5递归结束的三种情况4.2划分选择4.2.1信息增益（informationgain）——ID3决策树学习算法属性划分准则4.2.2信息增益率（informationgainrate）——C4.5决策树学习算法属性划分准则4.2.3基尼指数（Giniinde

smile-yan·2023-08-07 18:04

个人规划（研0暑假版）

下面个人计划暑假学习内容：7~8月机器学习(吴恩达+《西瓜书》+实践补充)8~9月深度学习(吴恩达+《python深度学习》+动手学习深度学习)之后每天都会通过CSDN的方式来记录每天学习情况，每周会更新一个视频至

WananRd·2023-08-06 08:07

【机器学习】西瓜书学习心得及课后习题参考答案—第6章支持向量机

笔记心得6.1间隔与支持向量——www是法向量，垂直与超平面wTx+b=0w^Tx+b=0wTx+b=0。这一节了解了支持向量机的基本型。min⁡w,b12∣∣w∣∣2s.t.yi(wTxi+b)≥1,i=1,2,...,m.\min_{w,b}\frac{1}{2}||w||^2\\s.t.\\y_i(w^Tx_i+b)\ge1,\qquadi=1,2,...,m.w,bmin21∣∣w∣∣2s

一个甜甜的大橙子·2023-08-06 08:28

【机器学习】西瓜书学习心得及课后习题参考答案—第5章神经网络

算法如下（公式参考西瓜书）停止条件与缓解BP过拟合的策略有关，一种策略是“早停”，一种是“正则化”。

一个甜甜的大橙子·2023-08-03 17:32

吃透《西瓜书》第四章决策树定义与构造、ID3决策树、C4.5决策树、CART决策树

目录一、基本概念1.1什么是信息熵？1.2决策树的定义与构造二、决策树算法2.1ID3决策树2.2C4.5决策树2.3CART决策树一、基本概念1.1什么是信息熵？信息熵:熵是度量样本集合纯度最常用的一种指标，代表一个系统中蕴含多少信息量，信息量越大表明一个系统不确定性就越大，就存在越多的可能性，即信息熵越大。1.2决策树的定义与构造决策树是一种基于树形结构来进行决策的算法，它的主要原理是将数据集

rookie_coder_996·2023-08-01 12:33

【机器学习】西瓜书习题3.3Python编程实现对数几率回归

参考代码结合自己的理解，添加注释。代码导入相关的库importnumpyasnpimportpandasaspdimportmatplotlibfrommatplotlibimportpyplotaspltfromsklearnimportlinear_model导入数据，进行数据处理和特征工程#1.数据处理，特征工程data_path='watermelon3_0_Ch.csv'data=pd.

一个甜甜的大橙子·2023-07-31 00:00

【机器学习】西瓜书学习心得及课后习题参考答案—第4章决策树

这一章学起来较为简单，也比较好理解。4.1基本流程——介绍了决策树的一个基本的流程。叶结点对应于决策结果，其他每个结点则对应于一个属性测试；每个结点包含的样本集合根据属性测试的结果被划分到子结点中；根结点包含样本全集，从根结点到每个叶结点的路径对应了一个判定测试序列。并且给出了决策树学习的基本算法。上述算法递归返回的情形2和情形3不同之处：情形2是利用当前结点的后验分布，情形3则是把父结点的样本分

一个甜甜的大橙子·2023-07-31 00:00

【机器学习】西瓜书习题3.4Python编程比较 10 折交叉验证法和留一法所估计出的对率回归的错误率

3.4选择两个UCI数据集，比较10折交叉验证法和留一法所估计出的对率回归的错误率.参考代码结合自己的理解，添加注释。数据集链接，下载后的数据在后缀名是data的文件中，使用记事本打开，本次解题需要去掉第一行属性名称，再保存为txt格式文件。代码导入相关库importnumpyasnpimportpandasaspdfromsklearnimportlinear_modelfromsklearn.

一个甜甜的大橙子·2023-07-31 00:29

【机器学习】西瓜书习题3.5Python编程实现线性判别分析，并给出西瓜数据集 3.0α上的结果

参考代码结合自己的理解，添加注释。代码导入相关的库importnumpyasnpimportpandasaspdimportmatplotlibfrommatplotlibimportpyplotasplt导入数据，进行数据处理和特征工程得到数据集D={(xi,yi)}i=1m,yi∈{0,1}D=\{(x_i,y_i)\}_{i=1}^m,y_i\in\{0,1\}D={(xi,yi)}i=1m

一个甜甜的大橙子·2023-07-31 00:59

机器学习西瓜书第三章习题-编程题代码

3.3编程实现对率回归，并给出西瓜数据集3.0α上的结果importnumpyasnpimportmathx=[[0.697,0.46,1],[0.774,0.376,1],[0.634,0.264,1],[0.608,0.318,1],[0.556,0.215,1],[0.403,0.237,1],[0.481,0.149,1],[0.437,0.211,1],[0.666,0.091,1],[

Lan52160·2023-07-28 13:37

【学习笔记、面试准备】机器学习西瓜书要点归纳和课后习题参考答案——第1章

机器学习西瓜书要点归纳第1章绪论1.1引言1.2基本术语1.3假设空间1.4归纳偏好1.5发展历程1.6应用现状1.7阅读材料习题目录地址第1章绪论1.1引言机器学习（machinelearning）：

出尘呢·2023-07-28 13:36

西瓜书第六章习题及答案

6.1公式6.2点到面的推到过程（如下图里面的图片），不禁让我想到高中班主任在黑板上的咔咔一顿猛写，高中班主任教的真好，哎，是我zs跟不上啊！点到平面的距离公式推导感觉如果记住了公式这个距离公式很容易想到，非要看推导的话就看下面的图片吧！6.2前方高能——搬运工上线！唉！importpandasaspdimportnumpyasnpimportmatplotlib.pyplotaspltimpor

小鹿学程序·2023-07-28 13:05

《机器学习》西瓜书习题第 3 章

习题3.1试析在什么情况下式(3.2)(3.2)(3.2)中不必考虑偏置项bbb.书中有提到,可以把xxx和bbb吸收入向量形式w^=(w;b)\hat{w}=(w;b)w^=(w;b).此时就不用单独考虑bbb了.其实还有很多情况不用,比如说使用了one−hot\mathrm{one-hot}one−hot编码,就可以不用考虑偏置项.更广泛的情况是,如果偏置项bbb可以被“包含”在另外的一些离散

云玩家-cloud·2023-07-28 13:05

【机器学习】西瓜书学习心得及课后习题参考答案—第3章线性模型

过了一遍第三章，大致理解了内容，认识了线性回归模型，对数几率回归模型，线性判别分析方法，以及多分类学习，其中有很多数学推理过程以参考他人现有思想为主，没有亲手去推。术语学习线性模型linearmodel非线性模型nonlinearmodel可解释性comprehensibility可理解性understandability线性回归linearregression均方误差squareloss欧氏距离

一个甜甜的大橙子·2023-07-28 13:30

《机器学习》西瓜书训练营视频教程+课件

─00看开营仪式，了解学习模式│1开营仪式回放——老师部分.mp4│2开营仪式回放——班主任部分.mp4│开营仪式模板—西瓜书2.0.pdf│是.pdf│├─01第一周：学习机器学习绪论│1机器学习绪论

globals_11de·2023-07-27 07:41

机器学习原理(1)集成学习基本方法

下图显示集成学习的一般结构（取自周志华老师的西瓜书），个体学习器通常由一种现有的学习算法从训练数据产生，例如决策树（C4.5、CART）、BP神经网络等。

赫加青空·2023-07-26 11:04

吃透《西瓜书》第一章绪论、第二章模型评估

目录第一章绪论1.1引言1.2基本术语1.3假设空间第二章模型评估2.1为什么需要模型评估？2.2模型评估的定义2.2.1评估方法之留出法:2.2.2交叉验证法和自助法2.3深入理解模型评估第一章绪论1.1引言机器学习是什么？机器学习的主要流程通俗就是，找一个最适合的函数方法~机器类似一个学生，接触的越多，学习的越多，越厉害~但是也害怕脏数据（类似环境对人类的影响）机器学习可以做什么？图片识别互联

rookie_coder_996·2023-07-25 22:48

【机器学习】吃瓜教程 | 西瓜书 + 南瓜书（1）

文章目录一、绪论1、什么是机器学习？2、基本术语3、假设空间4、归纳偏好5、发展历程二、模型评估与选择A、一种训练集一种算法2.1经验误差与过拟合2.2评估方法a)留出法b)交叉验证法c)自助法d)调参与最终模型2.3性能度量a)错误率与精度b)查准率、查全率与F12.4比较检验a)假设检验b)交叉验证t检验c)McNemar检验d)Friedman检验与nenyl后续检验B、一种训练集多种算法a

湫喃·2023-07-24 14:02

学习了python从入门到实践的基础语法部分，开始学习西瓜书

报名了西瓜书训练营，跟着学习。代码能力慢慢弥补。计划学完西瓜书，学习斯坦福和google课程。图片发自App

葡萄串儿·2023-07-21 06:56

【机器学习】西瓜书课后习题参考答案—第一章

记录西瓜书课后习题的思考与参考答案。

一个甜甜的大橙子·2023-07-19 11:08

【机器学习】西瓜书课后习题参考答案—第二章

记录西瓜书课后习题的思考与参考答案。

一个甜甜的大橙子·2023-07-19 11:38

基于weka手工实现支持向量机smo算法

关于svm机器学习模型，我主要学习的是周志华老师的西瓜书（《机器学习》）；但是西瓜书中对于参数优化（即：SequentialMinimalOptimization，smo算法）部分讲解的十分简略，看起来不太好懂

非妃是公主·2023-07-18 07:26

西瓜书课后题——第八章（集成学习）

可参见西瓜书130页的内容。0/1损失函数原型如下：所以，对于任意损失函数,则整体损失Loss

乂乂乂乂·2023-07-17 23:01

机器学习之版本空间（version space）算法

版本空间今天来聊聊机器学习中的一个概念:versionspace,中文翻译中，有‘变形空间’和‘版本空间’两种说法，这里沿用周志华老师在西瓜书中的使用到的术语，称之为‘版本空间’。

AryaHooper·2023-07-15 21:12

机器学习-归纳偏好（西瓜书系列1）

每一种算法都带有一种归纳偏好，归纳偏好，可以理解为算法对于某种假设的偏好，这种偏好可以体现为线性回归模型对于模型线性的假设偏好等。奥卡姆剃刀原理关于归纳偏好，对于一个数据，模型有许多的归纳偏好，也就是有许多的假设，那么如何进行归纳假设的选择呢，一般性的原则就是：最简单原则-奥卡姆剃刀原理，也就是使模型的结构尽量简单，这也是《统计学习》中提到的结构风险最小化。简单有什么好处呢，其中之一就是具有良好的

naca yu·2023-07-15 07:16

机器学习中理解算法的归纳偏置（偏好）

参考西瓜书对归纳偏置（偏好）的一些总结理解模型对应假设空间中的一个假设！现在，与训练集（样本）一致的假设有多个，那么应该选择哪一个模型（假设）呢？

saohuoxiong·2023-07-15 07:44

（西瓜书）《机器学习-周志华》-学习笔记：（1）第一章 --- 假设空间与版本空间等

（西瓜书）《机器学习-周志华》-学习笔记：（1）第一章—假设空间与版本空间等文章目录（西瓜书）《机器学习-周志华》-学习笔记：（1）第一章---假设空间与版本空间等简述1.2基本术语独立同分布理解**示例

JingYuJingYuJingYu·2023-07-15 06:36

机器学习（西瓜书）学习笔记2——假设空间和归纳偏好

一、假设空间首先，有两个概念：归纳和演绎。简言之，归纳就是特殊推一般，演绎就是一般推特殊。机器学习是从大量样本训练，再利用测试数据进行测试。很显然，机器学习属于归纳的过程，亦称：归纳学习。以西瓜举例，西瓜成熟与否和西瓜的色泽、根蒂、敲声这三个属性有关系，色泽的属性值：乌黑、青绿。根蒂的属性值：蜷缩、硬挺。敲声的属性值：浊响、沉闷。由这三种属性值可以构成24种不同的组合，这称为假设空间。其中，满足（

007djx·2023-07-15 06:04

决策树（ID3、C4.5、CART）

本文将根据周志华老师的《机器学习》（西瓜书）一书，对相关概念及原理进行通俗解释。2、相关概念利用《机器学习》书中的一句话概括什么是决策树：我们要对"这是好瓜吗?"

田浩thao·2023-07-14 04:26

人工智能（3）：独立同分布概念

在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。

不死鸟.亚历山大.狼崽子·2023-06-24 08:13

二层感知器实现异或

所以需要输入层/隐藏层/输出层实现原理a^b=(a&-b)|(-a&b)用两个与门和一个或门实现需要三个神经单元参考西瓜书：importnumpyasnp#两层感知器实现异或#M-P神经元#阈值设置：与

gimio·2023-06-21 07:29

【西瓜书笔记】8. EM算法（上）

EM算法的引入引入EM算法的原因：概率模型有时候既含有观测变量，又含有隐变量或者潜在变量。如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或者贝叶斯估计法估计模型参数。但是当模型含有隐变量时，就不能简单地使用这些估计方法。EM算法就是含有隐变量的概率模型参数的极大似然估计法。EM算法的例子《统计学习方法》例9.1（三硬币模型）：假设有3枚硬币，分别记作A，B，C。这些硬币正

西风瘦马1912·2023-06-18 09:52

推荐频道

西瓜书