西瓜书学习笔记系列第17页

吃瓜教程——datawhale10月组队学习

task02:概览西瓜书+南瓜书第3章3.1线性回归的基本形式给定d个属性描述，可以通过属性线性组合来进行预测的函数3.2线性回归3.2.1一元线性线性回归模型：线性模型准则：均方误差最小算法：最小二乘假设

scdctlt·2022-11-22 16:40

西瓜书学习笔记——第三章：线性模型

第三章：线性模型3.1基本形式3.2线性回归对离散变量的处理3.2.1对于样本只有一种属性的情况3.2.2对于样本由d个属性描述的情况用矩阵形式表示：①当$X^{T}X$为满秩矩阵或正定矩阵时：②当$X^{T}X$不为满秩矩阵或正定矩阵时：3.2.3广义线性模型（$y$的衍生）3.3对数几率回归（用线性模型做分类任务）对数几率回归的小总结求解对数几率回归模型的$w$和$b$3.4线性类别分析（LD

Andrewings·2022-11-22 16:40

西瓜书第三章——线性模型

西瓜书第三章——线性模型前言一、一元线性回归0、一些基本概念1、算法原理2、线性回归的最小二乘估计和极大似然估计2.1、最小二乘法2.2、极大似然估计法3、求解ω和b3.1、凸函数3.2、海塞矩阵及其半正定性

hitsugaya837·2022-11-22 16:09

西瓜书第三章—— 线性模型

1.1基本形式线性模型（linearmodel）试图学得一个通过属性的线性组合来进行预测的函数，即或者向量形式其中当w和b确认后，模型就得以确定。1.2线性回归给定一个数据集，试图学得一个线性模型，尽可能的预测出真实准确的值作为输出标记。有数据集后，将其放入线性回归模型，去获取w和b。如何获取又是一个重点。上图运用了欧氏距离，基于均方误差最小化来进行模型求解，求取w和b使得上图最小化的过程，称为线

我还年轻、、·2022-11-22 16:03

吃瓜第二弹——线性模型

最近几天时间，我主要学习了西瓜书上第三章线性模型的相关内容。0线性模型综述线性模型的基本形式与我们初中时候的一次函数形式相似，即函数值等于权重向量乘以自变量矩阵加上偏置项。

这辈子不飞线·2022-11-22 16:03

西瓜书学习——第三章线性模型

基本形式给定由d个属性描述的示例x=(X1;X2;…;Xd)，其中Xi是X在第i个属性上的取值，线性模型(linearmodel)试图学得一个通过属性的线性组合来进行预测的函数：向量形式：线性回归“线性回归”(linearregression)试图学得一个线性模型以尽可能准确地预测实值输出标记.即找到一条直线来区分样本，找到ω和b来衡量f(x)与u之间的差别，因此我们可试图让均方误差最小化：ω和b

ecy_uooki·2022-11-22 16:01

吃瓜教程——西瓜书线性模型学习

西瓜书——线性模型学习笔记3.1基本形式一句话讲清楚线性回归：找到一个w和b使直线能够和点拟合3.2线性回归简单的线性回归，找到一个w和b使直线能够和点拟合怎么找？

math_zr·2022-11-22 16:27

计算机视觉论文-2021-06-17

本专栏是计算机视觉方向论文收集积累，时间：2021年6月17日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-22 16:53

西瓜书学习笔记整理——第1章绪论

QwQQQ_·2022-11-22 15:55

第一章——绪论

在开始西瓜书系列之前，首先声明一下：作者并不是一个专业的程序员，只是跨界而来，想看看所谓的机器学习究竟是一片怎样的风景。一千个人眼中有一千个哈姆雷特。同样的，面对同一本书，每个人的理解是不同的。

理论上是人·2022-11-22 15:54

《机器学习实战》笔记——第四章：基于概率论的分类方法：朴素贝叶斯

1说明该书主要以原理简介+项目实战为主，本人学习的主要目的是为了结合李航老师的《统计学习方法》以及周志华老师的西瓜书的理论进行学习，从而走上机器学习的“不归路”。

圣西罗风之子·2022-11-22 15:53

《机器学习西瓜书》学习笔记——第三章_线性模型：对数几率回归（逻辑回归）

1.经典线性模型——logistic回归算法描述2.logistic回归：线性模型做分类任务用一个单调可微函数将分类任务的真实标记yyy与线性回归模型的预测值联系起来。线性回归模型产生的预测值z=ωTx+b=\omega^Tx+b=ωTx+b为实值，将实值z转换为0/1,完成2分类。单位阶跃函数符合理想情况：单位阶跃函数不连续，不能直接用作上述联系函数，对数几率函数logisticfunction

九点澡堂子·2022-11-22 15:53

笔记整理：西瓜书——第1章：绪论

因为本渣的专攻方向为机器学习和深度学习，西瓜书和Benjor那本蓝皮书算得上必备之本。就把两本书的大致笔记做一下吧。先刷西瓜

裕跃·2022-11-22 15:45

机器学习（西瓜书）学习笔记二模型评估与选择

模型评估与选择本章概览经验误差与过拟合评估方法留出法交叉验证法自助法调参与最终模型性能度量错误率与精度查准率，查全率与F1ROC与AUC代价敏感错误率与代价曲线比较检验假设检验交叉验证t检验McNemar检验Friedman检验与Nemenyi后续检验偏差与方差本章概览图片来自b站深度之眼UP（注：以下图片来自周志华——机器学习）经验误差与过拟合错误率：通常把分类错误的样本数占样本总数的比例称为错

天天写点代码·2022-11-22 15:38

《西瓜书》笔记整理——第一章

第一章绪论1.1引言1.2基本术语1.3假设空间1.4归纳偏好1.5发展历程附：EvolutionofML1.6应用现状1.7阅读材料1.1引言机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。机器学习研究的主要内容是关于计算机上从数据中产生“模型（model）”的算法，即学习算法（learningalgorithm）。1.2基本术语数据集（dataset）：数据的集合。示例（i

Willis Wong·2022-11-22 15:01

Python 西瓜书机器学习支持向量机(SVM)

%matplotlibinline#为了在notebook中画图展示importnumpyasnpimportmatplotlib.pyplotaspltfromscipyimportstatsimportseabornassns;sns.set()#随机来点数据#其中cluster_std是数据的离散程度fromsklearn.datasets.samples_generatorimportma

小刘鸭！·2022-11-22 10:57

NLP（四）：朴素贝叶斯原理及文本分类的sklearn实现

2.2sklearn朴素贝贝叶斯文本分类的实现1.朴素贝叶斯原理直接贴上自己的朴素贝叶斯（参考书籍为西瓜书）学习笔记：2.基于的朴素贝叶斯的文本分类的sklearn实现2.1首先基于sklearn的dataset

我想听相声·2022-11-22 07:55

机器学习-西瓜书、南瓜书第四章

1.决策树基本流程概念：基于树结构来进行决策，体现人类在面临决策问题时一种很自然的处理机制具备条件：每个非叶节点表示一个特征属性测试每个分支代表这个特征属性在某个值域上的输出每个叶子节点存放一个类别每个节点包含的样本集合通过属性测试被划分到子节点中，根节点包含样本全集基本算法：输入：训练集D=\{(x_1,y_1),(x_2,y_2),\cdot,(x_m,y_m)\}D={(x1,y1),(x2

GoAI·2022-11-22 07:48

机器学习-西瓜书、南瓜书第六章

支持向量机支持向量机（SupportVectorMachine），简称SVM，是一种经典的二分类模型，属于监督学习算法。一、间隔与支持向量支持向量机的目标是确定一个对样本的分类结果最鲁棒的线性分类器，即找到一个具有最大间隔的划分超平面。为此以间隔为优化目标，可将其转化为一个凸二次规划问题。1、公式及推导过程：2、什么是支持向量；解：距离超平面最近的训练样本点使上式的等号成立，它们被称为“支持向量”

GoAI·2022-11-22 07:48

《机器学习》西瓜书第四章神经网络（南瓜书辅助）

5.1M-P神经元M‑P神经元（一个用来模拟生物行为的数学模型）：接收n个输入(通常是来自其他神经元)，并给各个输入赋予权重计算加权和，然后和自身特有的阈值进行比较（作减法），最后经过激活函数（模拟“抑制”和“激活”）处理得到输出（通常是给下一个神经元）y=f(∑i=1nwixi−θ)=f(wTx+b)y=f\left(\sum_{i=1}^{n}w_{i}x_{i}-\theta\right)=

HammerDeng·2022-11-22 07:42

机器学习(西瓜书+南瓜书-CH6)支持向量机

机器学习CH6-支持向量机1-SVM简介2-SVM算法原理-硬间隔SVM1-间隔与支持向量2-拉格朗日对偶问题3-软间隔与正则化--软间隔SVM4-核技巧-非线性SVM5-支持向量回归6-后续1-SVM简介支持向量机（supportvectormachines,SVM）：是一种二分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；SVM还包括核技巧，这使它成为

Alexa2077·2022-11-22 07:10

机器学习-西瓜书、南瓜书第三章

第三章线性模型3.1基本形式w直观表达了各属性在预测中的重要性，线性模型有很好的可解释性。（可解释性也称可理解性）3.2线性回归考虑的情形是：输入属性的数目只有一个属性间存在“序”关系，身高高矮{1.0,0.0}，高中低{1.0,0.5,0.0}不存在序关系，属性有K属性值，,k维向量，eg：瓜类取值西瓜南瓜黄瓜转化为（0,0,1),(0,1,0),(1,0,0)闭式解：解析解，是指通过严格的公式

如鹤_搏鹰·2022-11-22 07:40

组队学习——吃瓜教程task01

组队学习——吃瓜教程task01#这是我第一次参加组队学习，学习书目是西瓜书，以下是我的一些笔记。

国⁡⁠⁡运·2022-11-22 07:34

机器学习决策树ID3算法连续值处理

pandas.DataFrame类型`建立决策树5.完整代码二、读取Excel表格的数据二、一Excel表格数据1.西瓜数据集2.自定义数据集三、绘制PNG图片的代码1.代码1.生成的PNG图片2.参考西瓜书数据集四

LiQiang33·2022-11-22 04:39

2022五月组队学习——吃瓜教程:task01

经验误差与过拟合2.2评估方法2.2.1留出法2.2.2交叉验证法2.2.3自助法2.2.4调参与最终模型2.3性能度量2.3.1错误率与精度2.3.2查准率、查全率与Fl2.3.3ROC与AUC第一章绪论西瓜书的开源自取

不含运费·2022-11-21 23:19

五月份组队学习【吃瓜教程】Task03打卡笔记

笔记部分内容来源于网络检索，如有侵权联系可删本次学习针对的对象：有高数、线代、概率论与数理统计基础的同学内容说明：周志华老师的“西瓜书”是机器学习经典入门教材，值得反复阅读，配合“南瓜书”从本科数学基础的视角进行讲解

miskirito·2022-11-21 23:49

五月份组队学习【吃瓜教程】Task01打卡笔记

本次学习针对的对象：有高数、线代、概率论与数理统计基础的同学内容说明：周志华老师的“西瓜书”是机器学习经典入门教材，值得反复阅读，配合“南瓜书”从本科数学基础的视角进行讲解，一起打好基础！

miskirito·2022-11-21 23:49

吃瓜教程 | Datawhale 打卡（Task 00）

课程定位人群定位内容定位本科数学基础我已经有了，买的西瓜书和南瓜书明天就到！（补充：张宇考研数学系列基础班）课程使用结合西瓜书和课程，要主动加强对男神（周老师）写的推导部分和非公式推导的文字讲解。

au1n·2022-11-21 23:13

Datawhale7月“吃瓜教程”Task02打卡

月吃瓜教程的学习笔记pss:文章所有PPT截图来自于：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU），记得一键三连~目录Task02详读西瓜书

qqqqqqqjiajun·2022-11-21 23:39

Datawhale7月“吃瓜教程“Task05打卡

月吃瓜教程的学习笔记pss:文章所有PPT截图来自于：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU），记得一键三连~目录Task05详读西瓜书

qqqqqqqjiajun·2022-11-21 23:08

Datawhale7月“吃瓜教程”Task03打卡

月吃瓜教程的学习笔记pss:文章所有PPT截图来自于：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU），记得一键三连~目录Task03详读西瓜书

qqqqqqqjiajun·2022-11-21 23:38

Datawhale7月“吃瓜教程”Task04打卡

月吃瓜教程的学习笔记pss:文章所有PPT截图来自于：Datawhale吃瓜教程（https://www.bilibili.com/video/BV1Mh411e7VU），记得一键三连~目录Task04详读西瓜书

qqqqqqqjiajun·2022-11-21 23:38

Datawhale7月“吃瓜教程”Task01打卡

ps:本文为记录参与Datawhale-7月吃瓜教程的学习笔记Task01——概览西瓜书+南瓜书1、2章1绪论1.1引言通过根据已有的经验来预测判断西瓜“好坏”与否来引入机器学习的概念。

qqqqqqqjiajun·2022-11-21 23:08

【Datawhale打卡】吃瓜教程 Task01

Task01：概览西瓜书+南瓜书第1、2章1.绪论机器学习是什么机器学习正是这样一门学科，它致力于研究如何通过计算的手段，利用经验来改善系统自身的性能.我的理解是机器学习是通过数据（经验）来学习一种解决问题的方法

Stozn·2022-11-21 23:37

【机器学习】周志华西瓜书3.3题——Python代码实现，牛顿法与梯度下降法

#-*-coding:utf-8-*-"""牛顿法实现对率回归(LogisticRegression)来源:'机器学习,周志华'模型:P69problem3.3数据集:P89watermelon_3.0a(watermelon_3.0a.npy)"""importmatplotlib.pyplotaspltimportnumpyasnpimportxlrddefsigmoid(x):"""Sigm

我在途中丶·2022-11-21 23:33

机器学习算法+代码

特征值+目标值监督学习：目标值为类别属于分类问题目标值为连续数据属于回归问题无监督学习无目标值3、机器学习流程获取数据数据处理特征工程机器学习模型-训练模型模型评估应用4、书籍、框架机器学习深度学习数集西瓜书

点击领取椭圆·2022-11-21 21:40

计算机视觉论文-2021-07-05

本专栏是计算机视觉方向论文收集积累，时间：2021年7月5日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-21 19:51

西电机器学习简答题核心考点汇总（期末真题，教材西瓜书）

文章目录前言一、机器学习和深度学习区别以及原因二、卷积核，池化层作用三、SVM转化为对偶问题的优点四、核函数的作用五、特征的相似度定义，性质六、预剪枝与后剪枝优缺点七、密度直接可达，密度可达，密度相连定义八、DBSCAN相对于k-menas的优缺点九、LDA和PCA区别总结前言主要针对西安电子科技大学《机器学习与数据挖掘课程》的简答题核心考点进行汇总，包含总共8章的核心简答。【期末期间总结资料如下

oax_knud·2022-11-21 15:51

计算机视觉论文-2021-07-12

本专栏是计算机视觉方向论文收集积累，时间：2021年7月12日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！

SophiaCV·2022-11-21 14:30

模型介绍-----MLP

参考文献：《西瓜书》、《统计学习方法》、以及知乎或CSDN部分博客感知机介绍M-P

35岁北京一套房·2022-11-21 06:49

机器学习西瓜书第三章线性模型读书笔记

第三章线性模型3.1基本形式f(æ)=ω1X1+ω2X2十…+ωdXd+b3.2线性回归linearregression确定ω和b均方误差，亦称平方损失(Squareloss)欧氏距离最小二乘法基于均方误差最小化来进行模型求解，试图找到一条直线，使所有样本到直线上的欧氏距离之和最小.参数估计parameterestimation求解ω和b使函数的均方误差最小化的过程多元线性回归3.3对数几率回归l

猾枭·2022-11-21 05:30

西瓜书第三章习题及答案

笔记：线性模型（Linearmodel）：试图学习一个通过属性的线性组合来进行预测的函数。线性回归（Linearregression）：试图学习一个线性模型以尽可能准确地预测实值输出标记。式子(3.2)如图所示：想法实录：想着如果是一个模型预测的刚刚好与真实值一致，那还需要偏置项吗？事实证明我想想的是什么？？？想的太简单了！看到这个题目，要知道偏置项它有什么作用?为什么需要偏置项?参考文章。其实它

小鹿学程序·2022-11-21 04:55

机器学习西瓜书第五章笔记

机器学习西瓜书第五章笔记M-P感知机感知机学习策略感知机使用的优化算法多层前馈神经网络BP算法推导过程深度学习M-P感知机神经网络最基本的成分是神经元模型，神经元接受来自n个其他神经元传递过来的输入，通过带权重的连接得到的总输入值与阈值比较

源中阮·2022-11-21 04:23

《机器学习》（西瓜书）第三章

机器学习的三要素1：模型：根据实际问题，确定假设空间2：策略：根据评价标准，确定选取最优模型的策略（通常会产出一个“损失函数”）（损失函数：每次训练集送入模型后，输出预测值，通过损失函数计算出预测值和真实值之间的差异值，通过模型反向传播更新参数，降低损失值）3：算法：求解损失函数，确定最优模型书本笔记3.1基本形式解释：给定d个属性描述（x1，x2...），其中w直观地表现了各属性在预测中的重要性

江鸟61·2022-11-21 04:47

浅谈机器学习之——支持向量机

(注：本文大部分内容来自周志华老师的西瓜书）支持向量机浅谈机器学习之——支持向量机如何解决二分类问题？1、理想情况：样本完全线性可分2

Allen-one·2022-11-21 03:10

西瓜书与Scikit-learn

1.Overview在《机器学习》周志华中，只讲解了各个算法的原理，没有例程供大家学习。这个仓库主要是用scikit-learn机器学习库完成书上的例题。Chapter7贝叶斯分类器Github链接：https://github.com/HuimingPan/Watermelon-scikitCSDN链接：知乎链接：2.Contents更多章节持续更新中2.1待更新2.2待更新2.3待更新2.4待

HuimingPan·2022-11-21 02:04

西瓜书笔记Chapter1&2

序言南瓜书（机器学习公式详解）作者谢文睿老师在南瓜书前言中如此写到：“周志华老师的《机器学习》（西瓜书）是机器学习领域的经典入门教材之一，周老师为了使尽可能多的读者通过西瓜书对机器学习有所了解,所以在书中对部分公式的推导细节没有详述

名侦探波本·2022-11-21 02:03

机器学习西瓜书Chapter1&2 绪论与模型评估

Chapter1绪论1.2基本术语1.机器学习中的重要术语，包括：属性相关：属性/特征、属性值、属性空间、特征向量标签相关：标记、标记空间、输出空间样本相关：样例、样本空间数据划分：训练集、测试集、验证集2.机器学习中的两大问题：分类，模型结果是离散值回归，模型结果是连续值1.4归纳偏好1.归纳偏好：机器学习算法在学习过程中对某种类型假设的偏好，比如偏好简单的模型，或偏好复杂的模型。若无偏好，否则

weixin_44102147·2022-11-21 02:02

西瓜书13-半监督学习

chapter13半监督学习13.1未标记样本能不能将未标记的样本也用上呢？我们有训练样本｛(x1,y1),(x2,y2),…,(xl,yl)｝，这l个样本的类别标记已知，称为“有标记样本”，此外，还有｛xl+1,…,xl+u｝这u个样本的标记未知，称为“未标记样本”。若直接使用传统监督学习技术，则仅有Dl能用于构建模型，Du所包含的信息被浪费了。另一方面，若Dl较小，则由于训练样本不足，学得模型

weixin_41872340·2022-11-21 02:32

西瓜书14-概率图模型

chapter14概率图模型14.1隐马尔可夫模型机器学习最重要的任务，是根据一些已观察到的证据（例如训练样本）来对感兴趣的未知变量（例如类别标记）进行估计和推测，概率模型提供了一种描述框架，将学习任务归结于计算变量的概率分布，在概率模型中，利用已知变量推测未知变量的分布称为“推断”，其核心是如何基于可观测变量推测出未知变量的条件分布。具体来说，假定所关心的变量集合为Y，可观测变量集合为O，其它变