西瓜书学习笔记系列

西瓜书11-特征选择与稀疏学习

chapter11特征选择与稀疏学习11.1子集搜索与评价给定属性集，其中有些属性可能很关键，而另一些属性可能没什么用，我们将属性称为“特征”，对当前学习任务有用的属性称为“相关特征”，没什么用的称为“无关特征”，从给定的特征集合中选择出相关特征子集的过程，称为“特征选择”。特征选择是重要的数据预处理过程，在现实机器学习任务中，获得数据后通常先进行特征选择，此后再训练学习器，那么为何要进行特征选择
weixin_41872340·2022-11-21 02:02

西瓜书12-计算学习理论

chapter12计算学习理论计算学习理论研究的目的是分析学习任务的困难本质，为学习算法提供理论保证，并根据分析结果指导算法设计。给定样例集D=｛(x1,y1),(x2,y2),…,(xm,ym)｝,本章主要讨论二分类问题，Y=｛-1,+1｝，假设所有样本服从一个隐含未知的分布D’，D中所有样本都是独立地从这个分布上采样而得，即独立同分布样本。令h为从x到y的映射，其泛化误差为：经验误差为：由于D
weixin_41872340·2022-11-21 02:02

西瓜书学习笔记-10 降维与度量学习

chapter10降维与度量学习10.1k近邻学习k近邻（knearestneighbor，knn）学习是一种常用的监督学习方法，其工作机制非常简单：给定测试样本，基于某种距离度量找出训练集中与其最接近的k个训练样本，然后基于这k个邻居的信息对该测试样本进行预测。对于分类任务，还是采用“投票法”决定测试样本的标记。在回归任务中，使用的是“平均法”，即将这k个邻居的平均值作为预测结果，还可根据距离的
weixin_41872340·2022-11-21 02:01

西瓜书学习笔记9-聚类

chapter9聚类9.1聚类任务在无监督学习中，训练样本的标记未知，目标是通过无标记训练样本的学习来揭示数据的内在性质及规律，为进一步的数据分析提供基础，此类学习中应用最广，研究最多的是“聚类”。聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个簇，通过这样的划分，每个簇可能对应一些潜在的概念（类别），如“浅色瓜”，“深色瓜”，“有籽瓜”等。这些概念对聚类算法而言事先是未知
weixin_41872340·2022-11-21 02:01

西瓜书学习笔记6-SVM

chapter6支持向量机6.1间隔与支持向量分类学习的基本思想就是在样本空间中找到一个划分超平面，将不同类别的样本分开。这个划分超平面所产生的分类结果是最鲁棒的，对未见示例的泛化能力最强。w为法向量，决定了超平面的方向，b为位移项，决定了超平面与原点的距离。样本空间中任一点到超平面的距离为：注意：使等号成立，等号成立时最近样本离超平面的距离就是1/|w|间隔：两个异类支持向量到超平面的距离之和支
weixin_41872340·2022-11-21 02:31

西瓜书概念整理（chapter 1-2）熟悉机器学习术语

括号表示概念出现的其他页码,如有兴趣协同整理，请到issue中认领章节完整版见我的github：ahangchen觉得还不错的话可以点个star^_^第一章绪论Page2:标记（label)示例结果的信息，例如“好瓜”，称为标记Page2:假设(269)(hypothesis)学得模型对应了数据的某种潜在的规律，因此亦称假设Page2:示例(instance)数据集中的每条记录是关于某个事件或对象
weixin_30952103·2022-11-21 02:29

吃瓜教程-西瓜书和南瓜书-Chapter1&2

第一章绪论1.1引言1.机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。主要研究的内容是关于在计算机上从数据中产生“模型”的算法，即“学习算法”。1.2基本术语1.一组记录的集合称为一个“数据集”，其中每条记录是关于一个事件或对象的描述，称为一个“示例”或“样本”2.反映事件或对象在某方面的表现或性质的事项称为“属性”或“特征”。3.属性上的取值称为属性值。属性张成的空间称为“
灾祸之火·2022-11-21 02:28

[学渣啃西瓜书]绪论-作业1.1

1.1表1.中若只包含编号为1，4的两个样例?试给出相应的版本空间.先确认版本空间内假设的个数。X=（色泽A：“青绿”a1，“乌黑”a2，*），根蒂B（“蜷缩”b1，“稍卷”b2，*），敲声C（“浊响”c1，“沉闷”c2，*）；空集（Fai）；Y=（“好瓜”，“坏瓜”）所以假设个数：3*3*3+1=28假设均为：(色泽=；根蒂=；敲声=）是好瓜正例：(a1,b1,c1)好瓜;反例：(a2,b2,c
Rookie_Codeman·2022-11-21 02:28

熟悉机器学习术语，西瓜书概念整理（chapter 1-2）

括号表示概念出现的其他页码,如有兴趣协同整理，请到issue中认领章节完整版见我的github：ahangchen觉得还不错的话可以点个star^_^第一章绪论Page2:标记（label)示例结果的信息，例如“好瓜”，称为标记Page2:假设(269)(hypothesis)学得模型对应了数据的某种潜在的规律，因此亦称假设Page2:示例(instance)数据集中的每条记录是关于某个事件或对象
梦里茶·2022-11-21 02:28

再学西瓜书----chapter9 k-mean 均值聚类

?K-means是有监督聚类还是无监督聚类无监督问题，还有pca降维也是无监督问题。?K-means聚类方法步骤1：首先确定一个k值，即我们希望将数据集经过聚类得到k个集合。2：从数据集中随机选择k个数据点作为质心。3：对数据集中每一个点，计算其与每一个质心的距离（如欧式距离），离哪个质心近，就划分到那个质心所属的集合。4：把所有数据归好集合后，一共有k个集合。然后重新计算每个集合的质心。5：如果
jimzhou82·2022-11-21 02:54

机器学习—西瓜书-chapter3—对率回归

编程实现对率回归，并给出西瓜数据集3.0α上的结果对率函数是任意阶可导的凸函数，这是非常重要的性质。西瓜数据集3.0暂时不知道什么原因导致，结果差别这么大，记录下来。%matlabcode%对率回归西瓜数据集3.0ɑold_l=0;%记录上次计算的ln=0;%计算迭代次数b=[0;0;1];%初始参数（自定义）x=xlsread('E:\matlab-work\watermelon_book\3.
糖糖糖-豆·2022-11-21 02:22

【西瓜书Chapter1】基本术语和机器学习三要素

文章目录一、基本术语数据处理训练预测测试其他二、机器学习三要素模型策略算法一、基本术语数据处理数据集dataset样本sample特征feature属性attribute属性值attributevalue属性空间attributespace样本空间samplespace特征向量featurevector维数dimensionality训练训练training训练数据trainingdata训练样本
m0_49223946·2022-11-21 02:22

计算机视觉论文-2021-03-18

本专栏是计算机视觉方向论文收集积累，时间：2021年3月18日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！
SophiaCV·2022-11-21 02:17

西瓜书学习笔记Chapter1-2

西瓜书学习笔记Chapter1—2Chapter1绪论一、学习内容Chapter2模型评估与选择一、学习内容二、难点该学习笔记中，基本概念和理论不详写，具体请看西瓜书Chapter1绪论一、学习内容1、
A_June·2022-11-21 02:47

西瓜书chapter1-2

chapter11.基本术语样本（sample）：某个瓜样本的属性/特征（feature）：瓜的属性（大小、颜色……）特征向量（featurevector）=一个样本=数据集（dataset）样本的集合=标记（label）：对应某瓜给出的一个结论（分类）训练集中的训练数据由训练样本构成。训练输出的样例：某瓜是不是好瓜.验证集、训练集、测试集：{验证数据}+{训练集数据}=训练集，训练集+测试集=数
yabgtz23·2022-11-21 02:16

机器学习吃瓜教程打卡第一天——西瓜书一二章概况笔记

内容主要基于机器学习西瓜书（周志华主编），Datawhale的南瓜书作为参考。一.机器学习概况。学习任务分为监督学习（分类和回归）和无监督学习（聚类）个人理解分类和聚类的区别在于类别是否是确定的。
糊小烦·2022-11-21 00:23

202201期Datawhale组队学习——吃瓜教程

目录前言学习路线Task00：熟悉规则（1.9）Task01：概览西瓜书+南瓜书第1、2章（1.10、1.11）Task02：详读西瓜书+南瓜书第3章（1.12-1.17）一、一元线性回归与多元线性回归
yep吖·2022-11-21 00:52

机器学习吃瓜教程打卡班第一、二章

评估方法留出法交叉验证法自助法调参性能度量错误率与精度混淆矩阵（ConfusionMatrix）ROC与SUC代价敏感错误率与代价敏感曲线比较检验假设检验二项分布第一二章的内容主要包含绪论及模型评估，通过对西瓜书的学习
源中阮·2022-11-21 00:14

【周志华机器学习】 西瓜书吃瓜教程 学习笔记总结Task04

第五章神经网络5.1神经元模型神经网络neuralnetworks：最基本的成分是神经元neuron模型，即上述定义中的“简单单元”M-P神经元模型：输入信号通过带权重的连接connection)进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”activationfunction处理以产生神经元的输出。5.2感知机与多层网络感知机Perceptron：由两层神经元组成
JM-Xia·2022-11-21 00:43

【周志华机器学习】 西瓜书吃瓜教程 学习笔记总结Task02

第三章线性模型3.1基本形式为了使模型更为优化，一般采用向量形式来代替for循环：3.2线性回归对离散属性,若属性值间存在“序”（order）关系，可通过连续化将其转化为连续值为确定w，b的值，我们可以让均方误差最小化欧氏距离Euclideandistance：对应均方误差的几何意义最小二乘法leastsquaremethod：基于均方误差最小化来进行模型求解的方法。即试图找到一条直线，使所有样本
JM-Xia·2022-11-21 00:13

【周志华机器学习】 西瓜书吃瓜教程 学习笔记总结Task03

第四章决策树4.1基本流程决策树的生成是一个递归过程：4.2划分选择关键在于从A中选择最优划分属性a*使结点的“纯度”purity越高信息熵informationentropy：度量样本集合纯度最常用的一种指标。假定当前样本集合中第k类样本所占的比例为也(k=1,2,…，),则D的信息嫡定义为Ent(D)的值越小，则D的纯度越高.信息增益informationgain：a*=argmaxGain(
JM-Xia·2022-11-21 00:13

【周志华机器学习】 西瓜书吃瓜教程 学习笔记总结Task01

第一章绪论1.2第一章作为引子主要介绍了一些基本术语：数据集dataset：记录的集合示例instance/样本sample：关于一个事件或对象的描述属性attribute/特征feature：反映事件或对象在某方面的表现或性质的事项属性值attributevalue：属性上的取值属性空间attributespace/样本空间samplespace/输入空间：属性张成的空间（以属性为坐标轴的多维空
JM-Xia·2022-11-21 00:12

西瓜书1-2章

第二章模型评估与选择2.1经验误差与过拟合错误率E=a/m(m个样本中有a个样本分类错误)，精度=（1-a/m)。学习器在训练集上的误差称为“训练误差”，在新样本上的误差称为“泛化误差”。2.2评估方法将数据集划分为数据集和测试集：留出法：在使用留出法时，一般要采用若干次随机划分、重复进行实验评估后取平均值作为留出法的评估结果。交叉验证法（K折交叉验证）：K一般取值为10。假设数据集D中包含m个样
Altira·2022-11-20 23:38

机器学习西瓜书——决策树（Decision Tree）部分总结

决策树（DecisionTree）基本概念由很多“树”组成，是一种树形结构，其中每个内部节点表示一个属性上的判断，每个分支代表一个判断结果的输出，最后每个叶节点代表一种分类结果。包含了一个根结点，若干个内部结点和若干个叶结点；叶结点对应于决策结果，其他每个结点则对应于一个属性测试每个结点包含的样本集合根据属性测试的结果被划分到子结点中根结点包含样本全集从根结点到每个叶结点的路径对应了一个判定测试序
Pigou_·2022-11-20 23:21

机器学习笔记（七）-神经网络：学习

本次学习笔记主要记录学习机器学习时的各种记录，包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》（西瓜书）以及李航老师的《统计学习方法》。
997and·2022-11-20 21:31

西瓜书 神经网络学习笔记

5.1神经元模型神经网络是由具有适应性简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界所做出的交互反应，其基本成分为神经元（neuron）模型M-P神经元模型即神经元接收来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元将接收到的总输入值与神经元的阈值进行比较，然后通过“激活函数”处理以产生神经元的输出。实际中，常常使用sigmoid函数作为
想个名字真的难·2022-11-20 21:29

机器学习西瓜书笔记：神经网络：BP算法公式推导

1、变量符号含义1、训练集D={(x⃗1,y⃗1),(x⃗2,y⃗2),...,(x⃗m,y⃗m)}D=\{(\vec{x}_1,\vec{y}_1),(\vec{x}_2,\vec{y}_2),...,(\vec{x}_m,\vec{y}_m)\}D={(x1,y1),(x2,y2),...,(xm,ym)}，共m个样例2、x⃗i∈Rd,y⃗i∈Rd\vec{x}_i\in\mathbb{R}^
sunMoonStar_c·2022-11-20 21:27

机器学习西瓜书学习记录（序）

人工智能技术如今的火热程度想来也不用多说了，从上世纪五六十年代到现在经历过的一次又一次高峰和低谷，而随着深度学习技术使得人工智能技术的落地成为了现实，如今的AI产业似乎正是处在相当热门的状态。由于落地场景繁杂多变，而AI技术很多时候又没有我们期望的那么成熟，中间也就偶尔夹杂不少唱衰AI的声音，“AI不过就是拟合，不过就是映射…”云云。深度神经网络的基本思想给了人们创造智能的极具潜力的新的方法论，通
Elon nick·2022-11-20 20:51

西瓜书笔记5:神经网络

目录5.1神经元模型5.2感知机与多层网络感知机感知机模型感知机学习策略感知机学习算法多层网络5.3误差逆传播算法标准BP(误差逆传播)算法变量符号公式推导工作流程累积BP算法5.4全局最小与局部极小跳出局部极小的技术5.5其他常见神经网络5.5.1RBF网络5.5.2ART网络5.5.3SOM网络5.5.4级联相关网络5.5.5Elman网络5.5.6Boltzmann机5.6深度学习5.1神经
lagoon_lala·2022-11-20 20:49

【西瓜书阅读笔记】05神经网络

一、神经元Neuron三种常见的激活函数：sgn,sigmoid,ReLU二、感知机Perceptron与多层网络1、与(And)，或(Or)，与非(NotAnd)，异或(Xor)2、多层网络构建“异或”门3、将阈值纳入权重三、误差逆传播算法(errorBackPropagation)1、一个简单的单隐层网络（1）每层每个nodes都有输入以及输出，这个需要谨记；（2）假设每个神经元都使用sigm
Checkmate9949·2022-11-20 20:43

神经网络--记一次西瓜书阅读

神经网络–记一次西瓜书阅读神经元模型：M-P神经元模型：神经元接收n个来自其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值与神经元阈值进行比较，通过激活函数处理产生神经元的输出
想考北航的小刺猬·2022-11-20 20:43

【D3D11游戏编程】学习笔记二十二：Cube Mapping应用之二：反射的实现

（注：【D3D11游戏编程】学习笔记系列由CSDN作者BonChoix所写，转载请注明出处：http://blog.csdn.net/BonChoix，谢谢~）CubeMapping应用非常广泛，除了上节中介绍的用来实现天空盒之外
Brother灬Nam·2022-11-20 19:08

【D3D11游戏编程】学习笔记二十一：Cube Mapping及其应用之一：天空盒的实现

（注：【D3D11游戏编程】学习笔记系列由CSDN作者BonChoix所写，转载请注明出处：http://blog.csdn.net/BonChoix，谢谢~）这一节讨论有关纹理映射的进阶内容：CubeMapping
Brother灬Nam·2022-11-20 19:07

西瓜书习题 - 2.模型评估与选择

1.泛化能力1、下面哪一项可以作为模型好的标准？错误率低精度高召回率高以上指标都可以，但视具体任务和使用者需求而异2、我们希望模型在未见样本上表现好，这一能力通常被称作模型的什么能力？泛化能力建模能力学习能力拟合能力3、在评价模型性能时，我们更希望它____（泛化能力强/训练误差为0）泛化能力强2.过拟合和欠拟合1、模型在“未来”样本上的误差被称作泛化误差经验误差学习误差训练误差2、有的情况下，模
加油呀，哒哒哒·2022-11-20 19:57

西瓜书习题 - 5.神经网络

1.神经网络模型1、神经网络模型的两个最重要的要素是什么？网络结构、激活函数网络结构、神经元模型激活函数、学习算法学习算法、神经元模型2、以下哪个名称不是activationfunction的翻译？响应函数挤压函数激活函数损失函数3、目前神经网络最常用的网络结构是下列哪个选项？单层后向网络多层后向网络单层前馈网络多层前馈网络2.万有逼近能力1、下列哪个选项是神经网络万有逼近的正确表述？仅需一个包含
加油呀，哒哒哒·2022-11-20 19:57

西瓜书习题 - 10.机器学习初步考试

1、当学习器在训练集上把训练样本自身的一些特征当作了所有潜在样本都具有的一般性质时，泛化性能可能会因此下降，这种现象一般称为____。（过拟合/欠拟合）过拟合2、对于两个样本点(0,0),(1,1)(0,0),(1,1)(0,0),(1,1)，若我们将其投影到与拉普拉斯核函数k(x,y)=e−∣∣x−y∣∣k(x,y)=e^{-||x-y||}k(x,y)=e−∣∣x−y∣∣关联的RKHS中时，则
加油呀，哒哒哒·2022-11-20 19:57

支持向量机（SVM）原理及公式推导

今天来看一下西瓜书第六章——支持向量机。
浩然然然·2022-11-20 18:07

计算机视觉论文-2021-07-14

本专栏是计算机视觉方向论文收集积累，时间：2021年7月14日，来源：paperdigest欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！
SophiaCV·2022-11-20 11:00

机器学习之决策树【西瓜书】

当一个有经验的老农看一个瓜是不是好瓜时，他可能会先看下瓜的颜色，一看是青绿的，心想有可能是好瓜；接着他又看了下根蒂，发现是蜷缩着的，老农微微点头，寻思着五成以上是好瓜；最后他又敲了下瓜，一听发出浑浊的响声，基本确定这个瓜是个好瓜！决策树便是模拟“老农判瓜”的过程，通过对属性的层层筛选从而得到当前样本的分类。可是，问题在于，老农判瓜依据的是其多年判瓜经验，计算机如何获得这些“识瓜经验”呢？又如何知道
Infinity_and_beyond·2022-11-20 10:59

《机器学习》Chapter 1 绪论——机器学习中的基本概念和术语

《机器学习》Chapter1绪论机器学习中的基本概念和术语首先，通过思维导图来描述一下西瓜书第一章的知识内容与结构。
Yozu_Roo·2022-11-20 10:50

【机器学习】西瓜书 03 线性回归模型

03线性模型文章目录03线性模型机器学习三要素3.1一元线性回归算法原理3.1.1最小二乘法3.1.2极大似然估计法3.2参数估计凸集凸函数凸充分性定理梯度Hessian矩阵3.2.1证明E(w,b)E_{(w,b)}E(w,b)是关于www和bbb的凸函数3.2.2求解损失函数的参数3.2.3向量化3.2.4多元线性回归3.2.5矩阵微分3.2.6对数线性回归3.3Logistic回归（解决分类
Biophilia_hyb·2022-11-20 09:33

西瓜书笔记16-2:逆强化学习

感谢康傲同学的深刻讨论与精彩讲解.目录逆强化学习概述强化学习与逆强化区别逆向强化学习分类学徒学习学徒学习思想相关定义算法描述学徒算法找最优策略\(\tilde{\pi}\)逆强化学习概述参考:https://zhuanlan.zhihu.com/p/26682811强化学习与逆强化区别强化学习是求累积回报期望最大时的最优策略，在求解过程中立即回报是人为给定的。人在完成具体任务时,指定回报函数的方法
lagoon_lala·2022-11-20 09:27

《机器学习》西瓜书读书笔记|基本术语

《机器学习》西瓜书读书笔记|基本术语http://blog.sina.cn/dpool/blog/s/blog_cfa68e330102yd1w.html?
追求卓越583·2022-11-20 08:03

周志华西瓜书笔记 1.2 基本术语

我原本想着一边读一边删减一些以后好复习的,谁知这书一句废话没有,一晚上敲了个寂寞1.2基本术语关于西瓜的数据:(色泽===青绿;根蒂===蜷缩;敲声===浊响)(色泽===乌黑;根蒂===稍蜷;敲声===沉闷)(色泽===浅白;根蒂===硬挺;敲声===清脆)  一对括号内是一条记录,"===“意思是"取值为”.  一组记录的集合称为一个"数据集"(dataset),每条记录是关于一个事件或对象(
0ng·2022-11-20 08:31

西瓜书第五章习题及答案

本题目证明参考链接如果神经网络只使用一个sigmoid函数，此时的神经网络等同于对数几率回归，但是不同的是，对数几率回归通常用于一个二分类问题，对于输出的结果通常需要跟一个阈值进行比较（比如大于0.5时归类为正例，小于0.5时归类为反例）本题证明中所用到的公式是书上P101-P104上所给的，下面的图片由两部分组成，基础差的看part-one部分，基础好的，并且对书上公式很了解的可以直接看part
小鹿学程序·2022-11-20 08:59

Python手撸机器学习系列（六）：决策树（附Python实现西瓜书决策树构建及剪枝代码）

目录决策树一、ID3决策树1.1信息熵1.2信息增益1.3数据集1.3ID3决策树基础代码实现二、C4.5决策树2.1增益率2.2C4.5决策树基础代码实现三、CART决策树3.1基尼指数3.2CART决策树基础代码实现四、决策树剪枝五、连续值决策树、缺失值决策树六、参考文献及联系方式决策树根据划分方法不同可以分为ID3、CART、C4.5三种决策树一、ID3决策树1.1信息熵决策树算法的关键在于
锌a·2022-11-20 08:28

读西瓜书笔记（一）绪论

读西瓜书笔记（一）绪论（一）什么是机器学习机器学习致力于研究如何通过计算的手段，利用经验来改善自身的性能。
謙卑·2022-11-20 08:28

西瓜书 周志华 机器学习第一章 绪论

1.什么是机器学习?人区别于机器，更多是基于经验累积起来的个体。比如今天我起床看见天空有点儿灰暗，没有太阳，那我就可以初步预判今天应该是会下雨。走在路上发现，风越吹越大，蜻蜓也在低飞，天越来越黑，这时你知道要下雨了，而且根据以往十几年来的经验判断，这雨还不小，我得赶紧找个地方躲起来。人呢遇到事多了，就积累了经验，从而下次有新的情况时，能用经验做出判断和决策。机器学习，与以往的你编程让机器做什么它就
kelly old uncle·2022-11-20 08:27

《机器学习》周志华读书笔记（一）绪论

全文第1章绪论部分重点介绍了机器学习中的【1】基本术语；【2】假设空间；【3】归纳偏好；【4】发展历程与现状【1】基本术语以一批西瓜为例（估计这就是西瓜书的由来）：（色泽=青绿；根蒂=蜷缩；敲声=浊响）
南梦倾寒·2022-11-20 08:26

《机器学习》（西瓜书）周志华 -学习心得

第一章绪论基本术语记录&示例&样本：“=”，意思是取值为，每一条记录是关于一个对象或事件的描述。eg：(色泽=浅白；根蒂=硬挺；敲声=清脆）数据集：记录的集合D={x~1，x~2，x~3，x~4......,x~m},其中每个示例x~i=(x~i~1,x~i~2，x~i~3，x~i~d),d为样本空间的维度（~表示下标），x~i~j=x~i在第j个属性上的1取值属性&特征：反映事件或对象在某方面的
qq_41934903·2022-11-20 08:26
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他