西瓜书第8页

西瓜书笔记7:贝叶斯分类器

lagoon_lala·2022-12-25 03:19

西瓜书重温(五): 神经网络手推版

1.写在前面这个系列也有很长时间没更新了，这段时间经历了实习和找工作的事情，很难静下心来去阅读西瓜书这样的宝书，所以呢，一直搁置。而现在打算借着寒假在家的时间把这个系列接上。

翻滚的小@强·2022-12-24 20:48

第27期 Datawhale 组队学习吃瓜教程——西瓜书+南瓜书第一章和第二章 / 周志华《机器学习》

摘要：本文是包含第一章和第二章的理论及推导内容说明：本次学习是基于西瓜书，南瓜书，及部分网上参考资料（链接会放在最后）目录摘要：本文是包含第一章和第二章的理论及推导内容说明：本次学习是基于西瓜书，南瓜书

weixin_45856170·2022-12-24 14:47

西瓜书学习笔记——第十六章：强化学习

16.强化学习16.强化学习16.1任务与奖赏16.2K摇摆赌博机16.2.1ε-贪心16.2.2Softmax16.3有模型学习16.3.1策略评估16.3.2策略改进16.3.3策略迭代与值迭代16.4免模型学习蒙特卡罗强化学习16.5模仿学习16.强化学习强化学习是机器学习的一个重要分支。在强化学习中包含两种基本元素：状态与动作，在某个状态下执行某种动作，这便是一种策略。学习器要做的是不断地

Andrewings·2022-12-24 14:45

机器学习_周志华_西瓜书_学习笔记_第16章--强化学习

16、强化学习强化学习（ReinforcementLearning，简称RL）是机器学习的一个重要分支，前段时间人机大战的主角AlphaGo正是以强化学习为核心技术。在强化学习中，包含两种基本的元素：状态与动作，在某个状态下执行某种动作，这便是一种策略，学习器要做的就是通过不断地探索学习，从而获得一个好的策略。例如：在围棋中，一种落棋的局面就是一种状态，若能知道每种局面下的最优落子动作，那就攻无不

Tenora鸢栀·2022-12-24 14:12

吃瓜教程Task4:神经网络西瓜书第五章

一.感知机模型模型简介：感知机模型是线性模型之一，拟合一个超平面f(x)=WTX+b来划分样本点，策略为最小化分类错误率。通过迭代的方式求得符合条件能够线性可分的训练样本分开的超平面。当样本非训练可分时，传统的感知机模型将无法训练。也是为了解决这一问题引出了后文中介绍的多层神经元网络结构模型，万有近似原理将使得多层网络结构的模型能够以任意精度拟合函数。将感知机模型手写笔记如下：二.前馈神经网络模型

Lennon �·2022-12-24 14:04

datawhale-吃瓜教程-线性模型

datawhale-吃瓜教程-线性模型提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加Task01：概览西瓜书+南瓜书第1、2章Task02：详读西瓜书+南瓜书第3章Task03：详读西瓜书

小740·2022-12-24 14:04

Datawhale吃瓜教程Task3

参考资料：【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集_哔哩哔哩_bilibili

丝竹青云·2022-12-24 14:33

【白话机器学习】算法理论+实战之K-Means聚类算法

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书

算法channel·2022-12-24 11:04

IID独立同分布假设

在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。2.简单解释独立、同分布、独立同分布（1）独立：每次抽样之间没有关系，不会相互影

Track48·2022-12-24 07:27

西瓜书笔记第一章模型评估与选择

第一章模型的输入与评估西瓜书概念很多，由过去多次反复入门经验，先选择摘取重要概念作为笔记，不纠结其他概念，实际代码中用到再深入。

优雅一只猫·2022-12-23 20:48

西瓜书-决策树

决策树决策树划分时，当前属性集为空，或所有样本在所有属性上取值相同，将结点标记为叶节点，其类别标记为当前样本集中样本数最多的类。决策树算法的核心在于：选择最优划分属性判别分类的三种情形：当前节点包含的样本全属于一个类别，则可视为叶子节点，分类就是本身当前节点为空，则分类就是父类的分类当前节点包含样本不全属于一个类别，那么多数作为类别信息增益informationgainID3在二分类任务中，若当前

zjw120·2022-12-23 13:33

西瓜书——模型评估与选择

泛化能力：我们希望模型在未见样本上表现好。过拟合和欠拟合：该方法如何缓解过拟合？该缓解拟合的方法什么时候失效？模型选择的三个关键问题：评估方法如何获得测试结果？→评价方法-1、留出法：保证数据分布一致性，例如分层采样，不能破坏数据的独立同分布原则多次重复划分，例如100次随机划分，以避免因为划分造成的模型训练误差测试集不能太大，不能太小，一般是1/5或者1/3的测试集，以避免训练集与原数据集相差较

zjw120·2022-12-23 13:03

西瓜书-第三章线性模型

线性回归适合处理数值问题。f(xi)=wxi+bf(x_i)=wx_i+bf(xi)=wxi+b使得f(xi)f(x_i)f(xi)约等于yiy_iyi离散属性的处理：若有序order,则连续化；否则需要通过编码，转化为k维向量求解最优解：对E(a,b)=∑i=1m(yi−wxi−b)2E_{(a,b)}=\sum_{i=1}^{m}(y_i-wx_i-b)^2E(a,b)=∑i=1m(yi−wx

zjw120·2022-12-23 13:03

西瓜书-4支持向量机(SVM）

学习内容介绍：支持向量机，在深度学习未火之前，支持向量机一直都是学术界和工业界的热点，这得益其优秀的性能，特别是面对数据规模比较小的时候，不同简单的逻辑回归，支持向量机能够构建出数据之间的非线性关系。同时，在机器学习的面试过程中，支持向量机一直都是热点问题，因为这部分能够对同学的数学功底进行考察，所以请大家认真对待这章的关键公式。学习完本章后，希望大家能够理清两个逻辑思维：一个是，支持向量机的原始

yxyibb·2022-12-23 13:02

机器学习之西瓜书-第6章支持向量机

端午节假期还剩最后一天了，小编给自己定的目标是，再看至少两章~支持向量机这一章，真的是很难，全是公式！！让暴风雨来得更猛烈些，我们开始吧~6.1间隔与支持向量这一部分来自视频中的截图maximalmarginclassifiersupportvectorclassifier作为进一步的优化两者局限：不管怎么切都会有错分类解决方案：升维度，kernelfunction（例子：如何用3刀把一块蛋糕切成

崔洞洞·2022-12-23 13:32

西瓜书-第6章-支持向量机

间隔与支持向量一个支持向量机解决一个二分类问题假设一个超平面wTx+b=0能将正反例正确划分超平面上方为正例+1，下方为反例-1那么正例(xi,yi),使wTxi+b>0,yi=+1那么反例(xi,yi),使wTxi+b0即可，也可以是+100或者+0.1）假设wTxi-+b=-1,（0对每条约束添加拉格朗日乘子，将约束条件的最优化问题转化为无约束问题：L=0.5||w||2+Σai(-yi(wT

路飞的纯白世界·2022-12-23 13:32

西瓜书第六章-支持向量机

间隔与支持向量给定训练样本集D,分类学习最基本的想法就是基于训练、集在样本空间中找到一个划分超平面、将不同类别的样本分开但能将训练样本分开的划分超平面可能有很多，如图6.1所示，我们应该努力去找到哪一个昵?在样本空间中，划分超平面可通过如下线性方程来描述:wt+b=0w^t+b=0wt+b=0样本空间中任意点xxx到超平面(w,b)(w,b)(w,b)的的距离可写为:r=∣wtx+b∣∣∣w∣∣r

孤鸿末子·2022-12-23 13:31

再学西瓜书----chapter6 支持向量机SVM

Page121~Page123比较好的推文可以参考这篇，讲的比西瓜书详细关于svm的推导不准备赘述了，这里只注重结论，超平面wTx+b=0对于线性可分的情况，超平面其实是我们需要求的东西支持向量就是离超平面最近的向量

jimzhou82·2022-12-23 13:01

西瓜书 - 支持向量机

间隔与支持向量给定训练样本集D={(x1,y1),(x2,y2),,,,(xm,ym)},yi∈){−1,+1}D=\{(x_1,y_1),(x_2,y_2),,,,(x_m,y_m)\},y_i\in)\{-1,+1\}D={(x1,y1),(x2,y2),,,,(xm,ym)},yi∈){−1,+1},分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平面,将不同类别的样本分开.在

shawn_shao·2022-12-23 13:01

Day05-《西瓜书》-支持向量机(DataWhale)

六、支持向量机**来源：**https://www.bilibili.com/video/BV1Mh411e7VU?p=96.1间隔与支持向量训练样本集D={(x1,y1),(x2,y2),...,(xm,ym)},yi∈{−1,+1}D=\{(x_1,y_1),(x_2,y_2),...,(x_m,y_m)\},y_i\in\{-1,+1\}D={(x1,y1),(x2,y2),...,(xm,

liying_tt·2022-12-23 13:31

小白学机器学习西瓜书-第六章支持向量机(2)

小白学机器学习西瓜书-第六章支持向量机26.4基本型6.5对偶问题上次我们讲到我们用数学式子表达了我们要求的超平面max⁡w,bymin(wTxmin+b)∣∣w∣∣(8)\max_{w,b}\frac

顾耒之·2022-12-23 13:30

西瓜书-支持向量机

支持向量机支持向量:距离超平面最近的这几个训练样本点。支持向量机的核心思想是最大化间隔γ=2∣∣w∣∣\gamma=\frac{2}{||w||}γ=∣∣w∣∣2。求极大转换为求极小，转化为凸规划问题。对偶问题利用拉格朗日乘子法，对于不等式约束，在其前加入一个乘子αi≥0\alpha_i\ge0αi≥0支持向量机对偶问题得到的目标函数最优值是原始问题目标函数最优值的下界KKT条件说明，要么αi=0

zjw120·2022-12-23 13:00

《西瓜书》学习笔记-目录

《机器学习》，即西瓜书是机器学习的入门书籍，也是比较完整的书，此笔记是通读西瓜书后，对于重要知识点进行总结和完善，对于一些公式进行了完整的推导后的学习笔记，同时也参考了李航老师的《统计学习方法》，还有很多其他老师的博客共同所得

ruoqi23·2022-12-23 10:00

机器学习(周志华) 参考答案第十四章概率图模型 14.9

机器学习(周志华西瓜书)参考答案总目录http://blog.csdn.net/icefire_tyh/article/details/52064910机器学习(周志华)参考答案第十四章概率图模型http

四去六进一·2022-12-21 11:48

西瓜书笔记9: 聚类

目录9.1聚类任务9.2性能度量外部指标内部指标9.3距离计算有序属性的距离无序属性的距离属性距离变形9.4原型聚类k均值算法学习向量量化(LVQ)高斯混合聚类E步M步9.5密度聚类9.6层次聚类9.1聚类任务无监督学习(unsupervisedlearning)目标:揭示数据的内在性质及规律,为进一步的数据分析提供基础.聚类(clustering):将数据集中的样本划分为若干个不相交的子集.(子

lagoon_lala·2022-12-20 19:34

【机器学习】白板公式推导-1-书籍&视频

【机器学习】白板公式推导-1-介绍书籍列表频率派-统计机器学习统计学习方法-李航ESL贝叶斯派-概率图模型模式识别与机器学习（PRML）-ChristopherM.BishopMLAPP其他机器学习（西瓜书

暖焱·2022-12-20 17:01

八月组队学习，吃瓜课程学习笔记打卡 Task1

但在此前就购入了《西瓜书》+《南瓜书》的我还是决定来试一试。这是初次吃瓜，但是对机器

miskirito·2022-12-20 12:13

机器学习课堂笔记-1

分类算法：神经网络支持向量机朴素贝叶斯K-近邻决策树(随机森林)深度神经网络3.聚类算法：K-means聚类层次聚类密度聚类谱聚类高斯混合聚类4.降维算法：主成分分析线性判别分析局部线性嵌入参考书目：西瓜书

Cole～～·2022-12-20 12:37

吃瓜笔记：Task02 线性模型

Datawhale2022年5月吃瓜教程Task02所用教程：《机器学习》（周志华），《机器学习公式详解》（谢文睿，秦州）学习内容：一元线性回归与多元线性回归（2天）预习：西瓜书3.1、3.2一元线性回归直播回放

余舍·2022-12-20 12:07

sklearn学习03——Bayes

sklearn学习03——Bayes前言一、朴素贝叶斯1.1、贝叶斯分类器的理论框架1.2、朴素贝叶斯分类器1.3、朴素贝叶斯的代码实现总结前言本篇首先介绍朴素贝叶斯分类器的原理（参考西瓜书），最后使用

hitsugaya837·2022-12-20 12:07

小白西瓜书机器学习打卡Task2

学习笔记：课程来自B站【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集https://www.bilibili.com/video/BV1Mh411e7VU?

Olivia LI.·2022-12-20 12:37

《机器学习》及实战四、贝叶斯理论及实战

Python版本：Python3.x运行平台：WindowsIDE：PyCharm参考资料：《机器学习》（西瓜书）《机器学习实战》（王斌）转载请标明出处：https://blog.csdn.net/tian121381

Yuuuuu丶Tian·2022-12-20 12:02

西瓜书学习笔记——task01

西瓜书学习笔记第一章基本术语数据集：所有瓜样本/示例：一个瓜的描述（属性描述）属性：瓜皮颜色属性值：青绿属性空间"(attributespace)/“样本空间”(samp1espace)/“输入空间：属性张成的空间

zhaoaxi·2022-12-20 12:00

python实现决策树_机器学习之决策树(Decision Tree)python实现

importnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltimportseabornassnsfrommathimportlog复制代码我们使用西瓜书中的一个数据集

weixin_39530833·2022-12-19 16:50

Python 无框架实现决策树（DecisionTree）

以西瓜书第4章决策树所给数据为例，构建决策树的过程大致为，我们每次通过选出“信息熵增益（GainInformationEntropy）”最大的属性，直到最后能够对样本标签进行预测。

山隆木对·2022-12-19 15:43

吃瓜教程｜Task5（阅读西瓜书第6章）

文章目录1间隔与支持向量2对偶问题2.1SMO3核函数4软间隔与正则化5支持向量回归6核方法1间隔与支持向量给定训练样本集D，分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平面，将不同类别的样本分开。直观上看，应该去找位于两类训练样本“正中间”的划分超平面，即如图所示中间的曲线，因为该划分超平面对训练样本局部扰动的“容忍”性最好，也就是说，该划分超平面所产生的分类结果是最鲁棒的，对

HWH-·2022-12-19 11:07

吃瓜教程｜Task4（阅读西瓜书第5章）

文章目录1神经元模型2感知机与多层网络3误差逆传播算法4全局最小与局部极小5其他常见神经网络5.1RBF网络5.2ART网络5.3SOM网络5.4级联相关网络5.5Elman网络5.6Boltzmann机6深度学习1神经元模型神经网络是由具有适应性的简单单元组成的广泛并行互连的网络神经元接收来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元

HWH-·2022-12-19 11:37

西瓜数据集3.0_西瓜书.绪论.学习笔记（一）

第一次作瓜书笔记有什么不足还请各位大佬们多多补充一，机器学习（ML）的概念在遇到一些问题的时候，我们用构建模型的方法来解决问题。怎么才能让你建立除来的模型更好，准确率更高，适应性更广呢？这就是我们为什么来学习“机器学习”这门学科。机器学习主要研究“模型的算法”也就是“学习算法”，有了这种学习算法，我们就可以将我们模型进行不断地优化，来提升模型。二，基本术语进行机器学习之前，我们准备的数据，我们采集

weixin_39537298·2022-12-18 11:43

西瓜书习题 - 1.绪论

天气数据生活语言2.典型得机器学习过程1、西瓜书中的西瓜数据集中，“好瓜、坏瓜”是一个西瓜样例的什么？属性类别标记没有意义数据集名称2、对于要预测的新的数据样本，它的类别

加油呀，哒哒哒·2022-12-18 11:12

使用决策树相关算法实现波士顿房价预测

构建决策树根据西瓜书的知识，构建决策树的算法如下:由此可见决策树的构建是一个递归问题，核心在于：如何选择最优的特征，使得对数据集的划分效果最好。决定何时停止分裂节点。选择

enginelong·2022-12-18 11:57

西瓜书学习笔记——第十三章：半监督学习

13.半监督学习13.1未标记样本13.2生成式方式高斯混合生成式模型其他生成式模型13.3半监督SVMTSVM半监督支持向量机13.4基于分歧的方法13.5半监督聚类约束k均值算法（必连勿连）约束种子k均值算法（少量有标记样本）13.1未标记样本训练样本集D由有标记样本集DlD_lDl和未标记样本集DuD_uDu组成，若使用传统监督学习算法，则只能使用DlD_lDl，DuD_uDu的信息被浪费，

Andrewings·2022-12-18 10:49

半监督学习入门——《机器学习》周志华—第十三章

《机器学习》第十三章（西瓜书）13.1未标注样本13.2生成式方法13.3半监督SVM13.4图半监督学习13.5基于分歧的方法13.6半监督聚类文中引用的外部图片13.1未标注样本半监督学习描述概念让学习器不依赖外界交互

qwq_xcyyy·2022-12-18 10:18

西瓜书整理

目录一、分类二、生成式方法三、TSVM参考：https://www.cnblogs.com/NoNameIsBeginning/p/13703217.html#131-%E8%AF%95%E6%8E%A8%E5%AF%BC%E5%87%BA%E5%BC%8F135138一、分类

(∩ᵒ̴̶̷̤⌔ᵒ̴̶̷̤∩)·2022-12-18 10:12

西瓜书《机器学习》阅读笔记1——Chapter1_假设空间

现在需要判断一个西瓜是否为好瓜。假设西瓜有三个属性：色泽、根蒂、敲声。其中色泽有青绿、乌黑、浅白三种可能取值，根蒂有硬挺、稍蜷、蜷缩三种可能取值，敲声有清脆、浊响、沉闷三种可能取值。并且为每种属性考虑通配情况，即取任一属性值都行，比如好瓜根蒂蜷缩，敲声浊响，什么色泽都行。不考虑属性通配两个属性值的情况，比如好瓜根蒂蜷缩，敲声浊响，色泽可以是青绿和乌黑。除此之外，还要考虑一种特殊的假设，即不存在好瓜

Vic时代·2022-12-16 20:27

【DataWhale组队学习】吃瓜教程(西瓜书+南瓜书)Task05-SVM函数间隔问题

本次任务是周志华老师《机器学习》第六章支持向量机的内容，个人觉得本章是截至目前所有章节任务中难度相对最大且花时间最多的部分，也看了不少资料（还有一部分还没看完）。目前对SVM学习过程中花费时间最多去思考的一个问题——超平面函数间隔设置为1进行整理。首先给出需要用到的数学表达式和符号：样本集，线性可分；是一个能够将正负样本恰好隔开的超平面，并且使得正样本在分隔超平面“上方”，负样本在分隔超平面“下方

哒卜琉歪歪·2022-12-16 19:41

【吃瓜教程】【西瓜书】第一章、第二章学习总结

【吃瓜教程】【西瓜书】第一章、第二章学习总结第一章绪论1.机器学习的定义：研究通过计算的手段，利用经验来改善系统的性能。而且这一过程不是显式编程的。

编号 37927·2022-12-16 19:09

《集体智慧编程》读书笔记

weixin_30396699·2022-12-16 12:37

机器学习——《西瓜书》

《西瓜书》–机器学习第一二章学习笔记（初识机器学习）*我i什么看到微湿路面、感到春风、看到晚霞，就认为明天是好天呢？这是因为在我们的生活经验中已经遇见过很多类似的情况，这是我们基于经验做出的判断。

等风**等你·2022-12-16 11:44

机器学习——西瓜书学习笔记（1）绪论

文章目录**1.1引言1.2基本术语（极其重要）1.3假设空间1.4归纳偏好1.5发展历程1.6应用现状1.7习题1.1引言机器学习(machinelearning)的定义：它致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。在计算机系统中，“经验”通常以“数据”的形式存在。ML研究的主要内容：在计算机上、从数据中产生“模型model”的算法。即是：如何通过数据集产生模型？因此机器学习本

Charcy阳·2022-12-16 11:13

推荐频道

西瓜书