西瓜书第4页

机器学习（西瓜书）简答题总结

集成学习的主要特点包括：1.模型的泛化能力的强，减少过拟合和欠拟合的风险。2.预测性能好：由于集成学习可以组合多个弱学习器，所以它可以将多个模型的优点进行整合，从而提高整体的预测性能。3.鲁棒性强4.可扩展性强：由于集成学习可以将多个模型进行组合，所以它可以方便地扩展到更大的数据集和更复杂的模型。5.可解释性好：由于集成学习的模型比较复杂，所以它的可解释性比较差，难以理解和解释模型的预测结果。集成

IT胡图图·2023-06-15 12:33

初识决策树（Decision Tree）

今天来看一下西瓜书第四章——决策树。

浩然然然·2023-06-12 13:33

第六章支持向量机

试答系列：“西瓜书”-周志华《机器学习》习题试答知识梳理本章关于支持向量机的公式较多，存在有多种形式，容易产生混淆，为此，在这里将涉及支持向量机的各种公式进行总结，绘制了一张关系图，其中未涉及支持向量回归和和核方法部分内容

lsly·2023-06-11 13:35

西瓜书公式（10.24）的推导

在西瓜书10.4节“核化线性降维”中，引入了一个映射函数ϕ\phiϕ，其作用是将样本点xix_ixi映射到高维特征空间中，即zi=ϕ(xi)z_i=\phi(x_i)zi=ϕ(xi)由前文中的推导可以得到式

chansonzhang·2023-06-10 18:02

手写西瓜书bp神经网络 mnist10 c#版本

本文根据西瓜书第五章中给出的公式编写，书中给出了全连接神经网络的实现逻辑，本文在此基础上编写了Mnist10手写10个数字的案例，网上也有一些其他手写的例子参考。

电子云与长程纠缠·2023-06-10 15:53

西瓜书+南瓜书第三章线性回归笔记与理解

在此首先附上南瓜书作者的讲解视频链接：【吃瓜教程】《机器学习公式详解》（南瓜书）与西瓜书公式推导直播合集_哔哩哔哩_bilibili一、一元线性回归线性回归试图学得，使得.如何确定w和b呢？

星☆空·2023-06-09 06:05

概率密度函数的参数估计

文章目录前言一、文章重点及流程梳理二、概率论基础知识三、参数估计1.极大似然估计（MaximumLikelihoodEstimation）2.贝叶斯估计前言写作参考概率论书籍、西瓜书、李航《统计学习方法

HelloKeitei·2023-04-21 03:20

西瓜书习题3.4 (交叉验证法)

西瓜书习题3.4(交叉验证法)：选择两个UCI数据集，比较10折交叉验证法和留一法所估计出的对率回归的错误率.1.数据集长啥样？

不一样的烟火___·2023-04-20 23:05

西瓜书第七章贝叶斯分类器

7.1贝叶斯决策论贝叶斯分类器：各类分类器中错误率最小或者在给定风险情况下平均代价最小的分类器。通过后验概率来计算损失的一类分类器。贝叶斯决策论：用于在知道概率和误判损失来选择最优的类别标记。我们要如何理解贝叶斯决策论呢？课本给了例子，我们一起来看一下吧。假定有N种可能的标记类别，即是将一个真实标记为的样本分为所产生的损失。基于后验概率可以将样本x分类为所产生的期望损失，即样本x的条件风险记为：要

起个名字好难阿·2023-04-19 09:32

决策树（理论部分1）

决策树（理论部分1）教材：周志华机器学习参考视频资料：【一起啃书】机器学习西瓜书白话解读（来自bilibili）视频地址：https://www.bilibili.com/video/BV17J411C7zZ

weixin_48753696·2023-04-18 17:47

决策树复习

article/details/701844152.ksy_ehttps://blog.csdn.net/kunshanyuZ/article/details/878619603.B站【一起啃书】机器学习西瓜书白话解读

steve_tom·2023-04-18 17:16

【一起啃书】机器学习西瓜书白话解读——02模型评估与选择（2.1-2.2）

第2章模型评估与选择模型评估与选择（0201）2.1经验误差与过拟合（0202）2.2评估方法【训练集验证集与测试集】（0203测试集分割流出法）2.2.1留出法（hold-out）2.2.2交叉验证法（crossvalidation）(0204)2.2.3自助法（bootstrapping）(0205)2.2.4调参与最终模型（0206验证集）模型评估与选择（0201）分别看一种训练集一种算法、

苏打饼干没加心·2023-04-18 17:46

【一起啃书】西瓜书（一）

希望通过b站视频课【一起啃书】机器学习西瓜书白话解读来认真读西瓜书，以下是对视频中的重点记录，以及课后自己看书得到的感悟和记录视频学习笔记学习资源：b站李沐老师的论文精读《西瓜书》《南瓜书》《机器学习实战

反科研pua所所长·2023-04-18 17:14

深度学习入门路径

深度之眼课程）[10d]基础课程不限于此，资源较多，可自行选择机器学习部分1.吴恩达机器学习（B站资源）+机器学习图解笔记（up主：深度碎片）[20d]@2.机器学习实战（深度之眼课程）[10d]3.西瓜书

或跃在渊_NUE·2023-04-18 11:15

西瓜书第十章降维与度量学习

10.1k近邻学习k近邻(简称KNN)学习：给定测试样本，基于某种距离度量找出训练集中与其最靠近的k个训练样本，然后基于这k个“邻居”的信息来进行预测。预测：①(分类任务）投票法，将选择的k个样本中出现最多次的类作为预测结果。②(回归任务)平均法，将k个样本的输出值求平均作为结果。③(回归任务)加权平均法，基于距离远近将k个输出结果加权后作为结果，距离越近权重越大。懒惰学习：在学习阶段将样本保存起

起个名字好难阿·2023-04-14 21:00

西瓜书第10章-降维PCA(主成分分析)

西瓜书第10章讲解的是降维和度量学习的相关内容image维度对于数组和Series而言，维度就是shape返回的数值。shape中返回了几个数字，就是几维。

皮皮大·2023-04-12 12:44

【西瓜书】part1：机器学习基础知识

目录0食用指南1.绪论1.1引言1.2基本术语1.3假设空间1.4归纳偏好1.5发展历程1.6应用现状2.模型评估与选择2.1经验误差与过拟合2.2评估方法2.2.1留出法2.2.2交叉验证法2.2.3自助法2.2.4调参与最终模型2.3性能度量2.4比较检验0食用指南第一部分（1~3章）：机器学习基础知识第二部分（4~10章）：经典常用的机器学习方法第三部分（11~16章）：进阶知识1.绪论1.

NN今夜无眠·2023-04-12 05:18

贪心自然语言处理学习笔记

1.2自然语言处理技术的三个维度1.3NLP基础任务1.4算法复杂度1.5动态规划算法2、吃瓜教程——西瓜书+南瓜书2.1线性回归2.2逻辑回归2.2.1逻辑回归有什么用2.2.2逻辑回归的本质2.2.3

sea_bi·2023-04-12 04:17

西瓜书第二章模型评估与选择

第二章主要讲模型的评估与选择，使用什么评估方法（介绍了几种评估方法）来测量学习器的性能度量（学习器有哪些性能度量），然后怎么对这些性能度量进行比较检验来选择出合适的学习器。2.1经验误差与过拟合这一小节主要介绍了一些定义，我们一起来看一下吧。错误率：分类错误的样本数占样本总数的比例。E=a/m精度：分类正确的样本数占样本总数的比例。1-a/m误差：学习器的实际预测输出与样本的真是输出之间的差异。误

起个名字好难阿·2023-04-11 21:56

支持向量机（三）——线性支持向量机

笔者主要参考学习的是李航老师《统计学习方法（第二版）》[1]和周志华老师的西瓜书《机器学习》[2]。如有错误疏漏，烦请指正。如要转载，请联系笔者，[email protected]。

Herbert002·2023-04-10 19:19

西瓜书扩展_学习理论

概念=未知目标函数样本集大小“不可知PLA可学习”二分类问题，0-1损失函数（0-1lossfunction）泛化误差（generalizationerror）也称期望损失（expectedloss）经验误差（empiricalerror）也称经验损失（empiricalloss）由于数据集D是独立同分布的采样，因此的经验误差期望等于其泛化误差，带入霍夫丁不等式（HoeffdingInequali

我_7·2023-04-09 00:44

【学习笔记、面试准备】机器学习西瓜书要点归纳和课后习题参考答案——第3章

机器学习西瓜书要点归纳第3章线性模型3.1基本形式3.2线性回归3.3对数几率回归3.4线性判别分析3.5多分类学习3.6类别不平衡问题3.7阅读材料习题目录地址第3章线性模型3.1基本形式线性模型定义

出尘呢·2023-04-07 08:31

【西瓜书】第6章支持向量机 SVM

支持向量机，因其英文名为supportvectormachine，故一般简称SVM，通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。这和神经网络比，可以找到全局最优解，而神经网络只能得法局部最优解，SVM速度相对更快一点。在这插入两幅图，是吴恩达讲课中的图，我感觉收获很大，原来一切的来源都是简单的问题

一杭oneline·2023-04-02 23:42

【DW 11月-西瓜书学习笔记】Task01：绪论、模型评估与选择

第一章绪论让我们的机器学习之旅从挑选一个好瓜开始。只绪论介绍基本术语、机器学习的发展，我只记录一些特殊的术语。1.1机器学习的定义计算机通过学习经验数据得到模型，面对新情况时做出有效判断。还有一种解释：假设：P：计算机程序在某任务类T上的性能。T：计算机程序希望实现的任务类。E：表示经验，即历史的数据集。若该计算机程序通过利用经验E在任务T上获得了性能P的改善，则称该程序对E进行了学习。1.2机器

以身外身做梦中梦·2023-04-02 20:10

《机器学习》又名西瓜书个人笔记

周志华老师写在第十次印刷之际这是一本教科书；这是一本入门教科书；这是一本面向理工科高年级本科生和研究生的教科书；本书适宜多读几遍。初学机器学习，容易陷入一个误区：以为熟练了“十大算法”，便可以解决任何问题，于是将目光仅聚焦在具体算法推导和编程实现上；带到实践发现效果不如人意，则有转对机器学习发生怀疑。读者要知道，书本仅能展示有限的“套路”，而现实世界任务千变万化，以有限之套路，应对无限之变化，焉能

MIrAcLe-T·2023-04-01 09:40

博士大佬的机器学习人工智能学习路线总结！

机器学习算法那些事·2023-04-01 08:20

西瓜书第3章-线性模型

西瓜书的第三章，主要讲解的是线性模型相关知识基本形式给定d个属性描述的示例；线性模型通过学习到的一个属性的线性组合来表示：一般是写成向量形式其中，称之为权重；称之为偏置线性回归优化目标给定数据集线性回归的目的是通过学习使得和近似相等

皮皮大·2023-04-01 07:06

Day1 #100DaysofMLCoding#

2018-8-6个人前置条件：已经将《统计学习方法》《机器学习实战》一刷80%西瓜书一刷50%，tensorflow实战一刷70%kaggle上参与过titanic(Top6%)和数字识别(Top12%

MWhite·2023-03-31 15:49

支持向量机svm分类、回归、网格搜索基于sklearn(python)实现

交叉检验的介绍三、具体代码实现svm分类svm回归网格搜索与k折交叉验证类别预测前言由于水平有限支持向量机（supportvectormachine）的数学原理和证明就不讲了想知道可以去看李航的机器学习或者西瓜书

一支彩色铅笔·2023-03-31 10:17

序列模型与注意力机制

很久以前看吴恩达老师的视频和西瓜书时用jupyter写的，今天想起来就把它转到这里，真的挺方便基础模型：Sequencetosequence（序列）模型在机器翻译和语音识别方面都有着广泛的应用。

目睹闰土刺猹的瓜·2023-03-29 02:35

【机器学习实战（四）】sklearn包中朴素贝叶斯库的使用

什么是朴素贝叶斯分类器1.2.朴素贝叶斯推断1.3.朴素贝叶斯学习sklearn中朴素贝叶斯类库的简介2.1.GaussianNB类2.2.MultinomialNB类2.3.BernoulliNB类这是《西瓜书带学训练营

UnderStorm·2023-03-28 09:15

决策树（Decision Tree）

参考资料：《西瓜书》p73-p95《百面机器学习》p80-89《统计学习方法》p55-p75《机器学习_学习笔记(allinone)V0.96》p622-p650《DecisionTree-SuperAttributes

ZzzZBbbB·2023-03-28 03:46

西瓜书第二章（01）

今天起把西瓜书上重要的，经常用的内容简单记录一下，以防自己遗忘。

超级皮卡丘囧rz·2023-03-27 22:30

机器学习西瓜书 Day05 神经网络（NN）

p97-p107今天去看复仇者联盟了，不错的片子，所以少看了5页，明天补上。：）第五章神经网络5.1神经元模型M-P神经元模型：神经元接受n个神经元的输入信号，各个带权重。将总输入值与该神经元的阈值比较，然后通过激活函数处理以产生输出见图p97每个神经元输出y=f(∑wixi-θ)。理想的激活函数是阶跃函数sgn(x)，但不连续不光滑。因此实际常用sigmoid函数作为激活函数。5.2感知机和多层

皇家马德里主教练齐达内·2023-03-26 01:41

《西瓜书笔记》（1）机器学习概述

《西瓜书》指的是周志华老师的《机器学习》著作什么是机器学习？机器学习致力于通过计算的手段，利用经验来改善系统自身性能的学科经验通常是以“数据”的形式体现，或者上一次训练的错误机器学习的本质任务是预测。

土豆洋芋山药蛋·2023-03-25 19:04

刷西瓜书

周志华-西瓜书作为小白第一遍走读周志华的西瓜书感觉有点模糊，现在准备刷第二遍，并且找到了一些资源共享下。

小狼星I·2023-03-25 17:58

机器学习-模型评估与选择

本系列博客参考书：大名鼎鼎的西瓜书！（周志华机器学习）原始工具-机器学习术语机器学习的海洋有它自己的语言，学习术语当然是生存的第一步啦！First，初来乍到，这片海洋中有各种各样的新事

N._·2023-03-25 07:26

西瓜书（4.1-4.3）关于决策树

今天整理一下关于西瓜书中决策树的基础内容，今天只写了4.1-4.3，后面还有4.4连续与缺失值，4.5多变量决策树改日有时间再写，考试在即。。。。

超级皮卡丘囧rz·2023-03-19 22:47

一起学习机器学习（1）：基本概念

其由于封面上的西瓜以及在书中以西瓜的引例，因此被称为“西瓜书”。接下来，计划利用一段不太长但是也不太短的时间和大家来一起学习西瓜书。在绪论中，针对机器学习的历史及其发展现状，提出了六个问题。

遇见木子绿·2023-03-18 20:45

【机器学习】西瓜书学习笔记（一）

最近开始机器学习经典教材-西瓜书的学习，为了方便以后查看，在此记录下来。什么是机器学习通过计算的手段，利用经验来改善系统性能。

hypc9709·2023-03-15 00:19

《机器学习》(周志华)西瓜书读书笔记(完结)

第1章绪论对于一个学习算法a,若它在某问题上比学习算法b好,则必然存在另一些问题,在那里b比a好.即"没有免费的午餐"定理(NoFreeLunchTheorem,NFL).因此要谈论算法的相对优劣,必须要针对具体的学习问题第2章模型评估与选择m次n折交叉验证实际上进行了m*n次训练和测试可以用F1度量的一般形式Fβ来表达对查准率/查全率的偏好:[图片上传失败...(image-e771e-1549

叫我老村长·2023-03-12 00:41

周志华《机器学习》笔记（二）——第2章模型评估与选择

2、用测试误差评估泛化误差（常用于定量评估）3、用偏差和方差评估泛化误差（常用于定性评估）4、模型选择5、从机器学习算法设计的角度理解看西瓜书第2章的时候感觉有些不条理，遂按照自己的思路梳理了一遍。

不会写代码的牛马·2023-02-16 21:25

吃瓜日记 Task1

机器学习中的一些基础概念三、模型评估与选择3.1.过拟合、欠拟合、方差、偏差3.2拟合方法3.3度量方法3.2.1回归问题评价指标3.2.2分类问题评价指标3.4比较检验其他参考前言本文为周志华老师的《机器学习》（西瓜书

Anita429·2023-02-16 20:25

（西瓜书）机器学习（周志华）书目录

这就是一个目录为啥通不过？？？？？1.机器学习概述1.1.人工智能与机器学习1.2.机器学习分类1.3.机器学习应用1.4.机器学习常用术语解释2.模型的评估与选择2.1.经验误差与过拟合2.2.评估方法2.3.性能度量2.4.偏差与方差3.线性回归3.1.什么是回归3.2.一元线性回归3.3.多元线性回归3.4.对数几率回归3.5.线性判别分析（LDA）3.6.多分类学习3.7.类别不平衡问题4

坠金·2023-02-07 13:55

机器学习框架

书目：周志华机器学习西瓜书李航统计学习方法方向：计算机视觉图像处理、物体检测、语义分割(锤子手机的爆炸功能)自然语言处理机器翻译、信息抽取、情感分析机器翻译的几个阶段：基于规则的翻译方法基于统计的翻译方法基于神经网络的翻译方法基于中间语言的翻译方法基于实例的翻译方法语音任务语音识别

ycttstysmd666·2023-02-07 07:13

Datawhale组队学习之西瓜书task3

第四章决策树4.1决策树的基本流程决策树（decisiontree）是一种常见的机器学习方法，形如下图所示：一般情况下，一棵决策树包含了一个根结点（上图结点1），若干个内部结点（上图结点2356），以及若干个叶结点（上图结点4等）。叶结点显示决策结果，其余结点对应一个属性测试。决策树的基本生成流程如下：有三种情形会导致函数递归返回：当前结点全属于同一类别，无需划分：此时将此结点标记为叶结点，类别为

legnAray·2023-02-06 20:17

Datawhale组队学习之西瓜书task4

第五章神经网络5.1M-P神经元模型神经网络（neuralnetwork）的基础是神经元（neuron）模型，其中最常用的是M-P神经元模型：在该模型中，神经元接收n个其他神经元的信号，通过w进行带权重连接，将所有带权重输入与阈值相减，通过激活函数（activationfunction）进行输出：y=f(wTx−θ)\begin{aligned}y&=f\left(\boldsymbol{w}^\