统计学习方法_李航

机器学习代码实现篇——SVM

主体推导是根据李航老师《统计学习方法
lavendelion·2023-10-11 00:17

转载:Nginx 架构及核心流程及模块介绍

转载:Nginx架构及核心流程及模块介绍来源：公众号分布式存储缓存高性能作者：李航1.Nginx简介以及特点Nginx简介：Nginx(enginex)是一个高性能的Web服务器和反向代理服务器，也是一个
meng_philip123·2023-10-07 14:10

《统计学习方法》学习笔记之第二章:感知机

目录第一节模型介绍和学习策略模型介绍学习策略第二节梯度下降法概念算法梯度下降法：例子原理第三节学习算法之原始形式学习问题原始形式例题分析第三节学习算法之对偶形式对偶形式例题分析第四节原始形式算法的收敛性第一节模型介绍和学习策略模型介绍输入空间：;输入：输出空间：;输出：感知机：其中，称为权值(Weight),称为偏置(Bias),表示内积假设空间：线性方程：特征空间中的一个超平面S(超平面比特征空
资料加载中·2023-10-07 05:23

《统计学习方法》学习笔记之第一章

统计学习方法的学习笔记：第一章目录第一节统计学习的定义与分类统计学习的概念统计学习的分类第二节统计学习方法的基本分类监督学习无监督学习强化学习第三节统计学习方法三要素模型策略第四节模型评估与模型选择训练误差与测试误差过拟合与模型选择第五节正则化和交叉验证正则化
资料加载中·2023-10-07 05:52

统计学习方法概论

1.统计学习统计学习包括监督学习、非监督学习、半监督学习、强化学习输入空间：输入变量取值的集合输出空间：输出变量取值的集合特征空间：所有特征向量存在的空间分类问题：输出变量为有限个离散变量的预测问题回归问题：输入变量和输出变量均为连续变量的预测问题标注问题：输入变量和输出变量均为变量序列的预测问题2.监督学习监督学习假设输入与输出的随机变量X和Y遵循联合概率分布P(X,Y)，训练数据和测试数据是按
slsefe·2023-10-06 23:38

统计学习笔记——统计学习三要素

参考书：《统计学习方法》——李航统计学习的三要素为：模型、策略、算法。写在前面的话：以下以监督学习为基础来进行论述。
Fiona_ll·2023-10-05 20:08

玩转人工智能中的机器学习之著名教材

书籍20机器学习入门教材推荐：(a)机器学习方法(李航);(b)机器学习(周志华);(c)TheElementsofStatisticalLearning:DataMining,Inference
audyxiao001·2023-10-05 07:57

【AI】大数据机器学习—统计学习及监督学习概论

参考书是李航的《统计学习方法》，该书主要讨论监督学习。统计学习作为一个研究领域，主要包括统计学习方法、统计学习理论和统计学习应用。统计学习方法主要关注的问题是设计新的学习方法。
CSU_DEZ_THU·2023-10-05 07:26

极大似然估计概念的理解——统计学习方法

目录1.最大似然估计的概念的理解12.最大似然估计的概念的理解23.最大似然估计的概念的理解34.例子1.最大似然估计的概念的理解1最大似然估计是一种概率论在统计学上的概念，是参数估计的一种方法。给定观测数据来评估模型参数。也就是模型已知，参数未定。已知某个随机样本满足某种概率分布，但是其中具体参数不太清楚，参数估计通过若干次的实验，观察其结果，利用结推出参数的大概值。最大似然估计是建立在这样的思
阿波拉·2023-10-04 14:38

李航老师《统计学习方法》第6章阅读笔记

逻辑斯谛回归（logisticregression）是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximumentropymodel）。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。对数线性模型（Log-linearmodel）是一种统计模型，通常用于分析离散数据的关系，特别是在分类和回归问题中。这种模型的名称来源于其基本形式，其中自变量的对数
Chen_Chance·2023-09-29 01:17

《统计学习方法》SVM约束最优化的错误

函数间隔和几何间隔的不同按照统计学习方法这本书的说法函数和几何间隔之间其实是一个线性的映射其中是函数间隔，是几何间隔而且几何间隔的定义是其实我觉得他这样定义有问题约束最优化问题的表达无法理解书上说原问题可以表述为下面的最优化问题但是其实约束项的左右两边是一样的
pipicold·2023-09-27 09:45

李航老师《统计学习方法》第1章阅读笔记

1.1统计学习统计学习的特点统计学习：计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析现在人们提及机器学习时，往往指统计机器学习，所以可以认为本书介绍的是机器学习方法统计学习的对象统计学习研究的对象是数据(data)，统计学习关于数据的基本假设是同类数据具有一定的统计规律性，这是统计学习的前提。e.g.用随机变量描述数据的特征，用概率分布描述数据的统计规律在统计学习中，以变量或变量组表
Chen_Chance·2023-09-27 01:13

李航老师《统计学习方法》第五章阅读笔记

决策树（decisiontree）是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。以下是关于分类决策树的一些基本概念和特点：树形结构：决策树模型呈现为一种树状结构，其中包括根节点、内部节点和叶子节点。每个节点表示一个特征或属性，每个边表示一个特征值或属性值的判断条件。从根节点开始，通过遵循不同的条件路径，最终到达叶子节
Chen_Chance·2023-09-24 00:50

李航老师《统计学习方法》第四章阅读笔记

朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。朴素贝叶斯法是一种用来进行分类的方法，它基于两个重要的假设：贝叶斯定理和特征条件独立假设。贝叶斯定理：贝叶斯定理是一种用来估计事件发生概率的数学原理。它告诉我们如何根据已知的信息来计算未知事件的概率。在分类问题中，我们希望找到最有可能的类别，贝叶斯定理帮助我们基于已知信息来估计这些概率。特征条件独立假设：这是朴素贝叶斯法的一个关键假设，它有
Chen_Chance·2023-09-23 19:15

Hoeffing不等式

在李航老师的统计学习方法（第一版中）Hoeffing不等式Hoeffing不等式Hoeffing不等式是这样子给出的设X1,X2,...,XNX_1,X_2,...,X_NX1,X2,...,XN是独立随机变量
Chen_Chance·2023-09-23 07:40

李航老师《统计学习方法》第2章阅读笔记

感知机（perceptron）时二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面想象一下在一个平面上有一些红点和蓝点，这些点代表不同的类别。分离超平面就是一条线，可以将红点和蓝点分开，使得所有的红点都在一侧，而蓝点都在另一侧。这条线（或者平面，对于高维数据）被称为分离超平面。2.1感知机模型定义2
Chen_Chance·2023-09-22 21:40

朴素贝叶斯(NBM)之后验概率最大化的含义 | 统计学习方法

朴素贝叶斯-贝叶斯估计Python复现：舟晓南：朴素贝叶斯（Bayes）模型python复现-贝叶斯估计；下溢出问题在《统计学习方法》一书中，详细说明了后验概率最大化与期望风险最小化之间的关系，深入地说明了后验概率最大化的含义
舟晓南·2023-09-21 23:39

应届生校招经验汇总（主银行）

按照时间轴来写，从2019年七月份开始，到2019年12月结束我是武汉一名高校的研究生，2019年2月开始接触机器学习的内容，起先读了李航的《统计学习方法》，之后陆续读了西瓜书、python数据结构、算法第四版前几部分章节和
白色纯度·2023-09-19 06:43

图像分割|机器学习 2019-05-09

本周计划1.看完代码2.学习统计学习方法1.代码●permute函数：a=rand(2,3,4);%这是一个三维数组，各维的长度分别为：2，3，4；%现在交换第一维和第二维：permute(A,[2,1,3
Rlinzz·2023-09-16 13:02

概率有向图模型（一）

文章目录前言概率有向图模型验证回到书中隐马尔可夫模型信念网络朴素贝耶斯总结前言经过前面的复习，我们把李航老师的《统计学习方法》中的监督学习部分回顾了一遍，接下来我们在此基础上，开始学习邱锡鹏老师的《神经网络与深度学习
赛文忆莱文·2023-09-14 12:05

《统计学习方法》阅读笔记及代码实现-Ch2

0.前言寒假参加夏令营的时候，老师就说过深度学习其实最开始的原型就是感知机，不过是多加了一些层而已。虽然不知道多加了几层为什么work，但是它的效果就是比传统的可证明的方法来的好，这也掀起了如今的AI狂潮+深度学习遍地走，你如果不会点机器学习算法，估计是招不到研究生的(玩笑话..并且机器学习也只是一种工具而已，没有那么玄乎其神)。一定要好好的钻研最经典的算法，从中汲取到养分，才能拥有核心的竞争力。
Muyun99·2023-09-13 10:14

学期计划

学期计划一、学好校内课程内容，保证课程成绩二、在网站上跟着上完斯坦福开放的自然语言课程和深度学习课程三、看完自然语言处理综述以及弄懂统计学习方法书籍，进行实践，其中忘记或不懂的统计、代数知识及时进行补充四
敲可爱的小超银·2023-09-07 07:38

【机器学习实践】隐马尔可夫模型（二）Viterbi算法

隐马尔可夫模型的预测问题已知一条可见层状态链，推导出最有可能的隐藏层状态链Viterbi算法维特比算法通过：全局最大概率必在每步优化时取得最大概率参考资料：《统计学习方法》李航清华大学（ppt）python
不给自己画饼·2023-09-05 22:05

表示学习与深度学习

西瓜书、统计学习方法以及花书第二部分都已经草草看过一遍，前后历时大概3个月，期间也根据Hands-on一书敲了一些代码实现简单的模型。至此可说对于机器学习算是入了门了。
单调不减·2023-09-05 11:43

EM算法总结（一）

参考：文曲经典：统计学习方法-李航参数分析θ=[P(z1∣x),P(z2∣x),⋯ ,P(zm∣x),P(y1∣z1,x),P(y2∣z1,x),⋯ ,P(yn∣z1,x),P(y1∣z2,x)⋯ ,P
赛文忆莱文·2023-09-04 16:13

4. 深度学习-损失函数

1.经验风险,期望风险,结构风险如何选择最优参数和评价一组参数是最优的，这就是机器学习中的策略，也就是性能度量P,在李航的《统计学习方法》和周志华的《机器学习》中开篇都曾讲过，这里不再详细介绍。
李涛AT北京·2023-09-03 11:38

C4D-REDSHIFT学习笔记（三十一）各向异性与太阳纹

原理部分建议阅读这2篇文章：第一篇（作者：李航，应该是第一个研究用CG实现太阳纹的前辈）：https://mp.weixin.qq.com/s?
latte666·2023-08-29 14:12

统计学补充概念-13-逻辑回归

概念逻辑回归（LogisticRegression）实际上是一种用于解决分类问题的统计学习方法，尽管其名称中带有"回归"一词，但它主要用于处理分类任务。
丰。。·2023-08-29 03:02

最大熵模型详细解析 | 统计学习方法学习笔记 | 数据分析 | 机器学习

本文包括：1.最大熵模型简介2.最大熵的原理3.最大熵模型的定义4.最大熵模型的学习1.最大熵模型简介：最大熵原理认为，学习概率模型时，在所有可能的概率模型（分布）中，熵最大的模型是最好的模型。通常用约束条件来确定概率模型的集合，所以，最大熵原理也可以表述为在满足约束条件的模型集合中选取熵最大的模型。离散随机变量X的概率分布是P(X)，则其熵是：式中，|X|是X的取值个数，当且仅当X的分布是均匀分
舟晓南·2023-08-28 07:46

EM算法在二维高斯混合模型参数估计中的应用

参考：《统计学习方法》9.3EM算法在高斯混合模型学习中的应用多维高斯混合模型多维高斯混合模型具有如下形式的概率分布模型：其中d为数据的维度，为均值，为协方差矩阵。
韩明宇·2023-08-27 15:38

P,NP,NP_hard,NP_complete问题定义

背景：在看李航的《统计学习方法时》提到了NP完全问题，于是摆之。
weixin_30399821·2023-08-26 20:32

EM算法推导--三硬币模型推导过程

本篇博客主要介绍李航《统计学习方法(第2版)》中讲解EM算法涉及到的三硬币模型案例，原文中该模型的推导过程被省略了。本篇博客主要是将该模型的具体推导过程。
Sun_Sherry·2023-08-24 12:27

第十二节 请人吃饭也很难

洗漱完毕，穆紫峰赶紧联系范代军的司机，李航给的酒不能拖拉，今天务必给了范代军。紫山公墓一般早晨6:30就上班了，因为火化车间7点开始烧第一炉。
易卜生生·2023-08-21 10:06

感知机模型(Perceptron)详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习

本文包括：1.走近感知机-感知机与童话2.重要概念3.感知机模型的数学形式4.构建感知机的损失函数5.如何取得损失函数最小值-随机梯度下降法6.感知机模型对偶形式Python复现，使用了随机梯度下降法，梯度下降法，adagrad和对偶形式四种算法：舟晓南：感知机模型python复现-随机梯度下降法；梯度下降法；adagrad；对偶形式1.走近感知机-感知机与童话回想一下，在现实生活中，我们是怎么对
舟晓南·2023-08-18 07:56

神经网络基础-神经网络补充概念-02-逻辑回归

概念逻辑回归是一种用于二分分类问题的统计学习方法，尽管名字中带有"回归"一词，但实际上它用于分类任务。逻辑回归的目标是根据输入特征来预测数据点属于某个类别的概率，然后将概率映射到一个离散的类别标签。
丰。。·2023-08-16 04:04

【Sklearn】基于逻辑回归算法的数据分类预测（Excel可直接替换数据）)

Sklearn】基于逻辑回归算法的数据分类预测（Excel可直接替换数据）1.模型原理2.模型参数3.文件结构4.Excel数据5.下载地址6.完整代码7.运行结果1.模型原理逻辑回归是一种用于二分类问题的统计学习方法
敲代码两年半的练习生·2023-08-15 05:31

统计学习方法||章1：统计学习方法概论

统计学习的研究：统计学习方法统计学习理论（统计学习方法的有效性和效率和基本理论）统计学习应用统计学习的方法分类：SupervisedlearningUnsupervisedlearningSem
周运来就是我·2023-08-14 15:25

机器学习（一）模型三要素

数学描述2.假设空间（二）策略：1.量化误差2.风险函数3.模型迭代要求4.策略阶段要点（三）优化算法：1.普通参数2.超参数二、深度学习改变了什么1、大规模数据性能提升可观2、隐式特征学习--AE本文是对李航博士
元吉光·2023-08-14 05:43

滴滴李航：分布式存储 Ceph 介绍及原理架构分享

导读：本文主要从架构简介使用场景，以及内部IO流程、心跳机制、通信框架、CRUSH算法、QOS等多个方面逐渐介绍分布式存储系统Ceph的特性。希望对你有所帮助。————▍阅读索引1.Ceph架构简介及使用场景介绍1.1Ceph简介1.2Ceph特点1.3Ceph架构1.4Ceph核心组件及概念介绍1.5三种存储类型-块存储1.6三种存储类型-文件存储1.7三种存储类型-对象存储2.CephIO流程
架构文摘·2023-08-13 21:39

（统计学习方法|李航）第四章 朴素贝叶斯算法——贝叶斯估计

贝叶斯估计方法：计算男女时只有两个值，所以K=2贝叶斯估计就是拉普拉斯平滑估计方法：为什么叫做贝叶斯估计呢？例题：重新回顾以下朴素贝叶斯：对他求导，求出最大值得到了色i他的估计值：那么我们可以知道对应Y=-1这类女儿国还是特例给自己留点男人
Allenspringfestival·2023-08-13 19:12

2022-06-28

是大学毕业季在校园里的学生都茫茫碌碌的收拾行囊，要离开自己待了几年的学校以及朝夕相处的同学和老师、这个时候有个同学淡定的坐在308宿舍的下铺上、点起一根香烟抽着烟发呆的看着各位同学们匆匆忙忙的离开、这位同学的名字叫李航
予潮·2023-08-11 06:40

（统计学习方法|李航）第一章统计学习方法概论——四五六节模型评估与模型选择，正则化与交叉验证，泛化能力

一，模型评估与模型选择1.训练误差与测试误差假如我们有100个数据。80条记录给训练集，10条记录给测试集，10条记录给验证集先在训练集中训练模型，再在验证集上测试看哪种模型更拟合最后用测试集算出成绩表示决策函数模型拟合的好坏（对已知数据的预测效果）我们可以通过训练集测出训练误差来衡量对未知数据预测效果好坏可以利用测试集来衡量预测值和真实值不相等的个数占测试集样本总个数的比例经过模型的预测值和真实
Allenspringfestival·2023-08-10 08:40

（统计学习方法|李航）第四章 朴素贝叶斯算法

目录一，朴素贝叶斯的学习与分类1.基本方法2.后验概率最大化的含义二，朴素贝叶斯法的参数估计1.极大似然估计2.学习与分类算法3.贝叶斯估计一，朴素贝叶斯的学习与分类1.基本方法2.后验概率最大化的含义二，朴素贝叶斯法的参数估计1.极大似然估计2.学习与分类算法3.贝叶斯估计
Allenspringfestival·2023-08-09 16:22

（统计学习方法|李航）第一章统计学习方法概论七八九十节——生成模型与判别模型，分类问题，标注问题，回归问题

目录一，生成模型与判别模型二，分类问题三，标注问题四，回归问题一，生成模型与判别模型P（X,Y）是联合概率分布只要是出现联合概率分布，就一定是生成模型判别方法就是直接去求概率二，分类问题评估分类器性能的指标一般是分类准确率其定义是：对于给定的测试数据集，分类器正确分类的样本数和总样本数之比，也就是损失函数是0-1损失时候，测试数据集上的准确率。画图更好记：background：根据特征值预测是否会
Allenspringfestival·2023-08-08 14:41

（统计学习方法|李航）第五章 决策树——一二三节：决策树模型与学习，特征选择，决策树的生成，

目录一，决策树模型与学习1.决策数模型2.决策树与if-then规则3.决策树与条件概率分布4.决策树学习二，特征选择1.特征选择问题2.信息增益3.信息增益比三，决策树的生成1.ID3算法2.C4.5的生成算法一，决策树模型与学习1.决策数模型2.决策树与if-then规则3.决策树与条件概率分布4.决策树学习二，特征选择1.特征选择问题2.信息增益3.信息增益比三，决策树的生成1.ID3算法2
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）第五章决策树——四五节：决策树的剪枝，CART算法

目录一，决策数的剪枝二，CART算法1.CART生成（1）回归树的生成（2）分类树的生成2.CART剪枝（1）剪枝，形成一个子树序列（2）在剪枝得到的子树序列T0,T1-----,Tn中通过交叉验证选取最优子树Ta一，决策数的剪枝二，CART算法1.CART生成（1）回归树的生成（2）分类树的生成2.CART剪枝（1）剪枝，形成一个子树序列（2）在剪枝得到的子树序列T0,T1-----,Tn中通过
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）专栏学习笔记目录导航

第一章统计学习方法概论（统计学习方法|李航）第一章统计学习方法概论-一二三节统计学习及统计学习种类，统计学习三要素（统计学习方法|李航）第一章统计学习方法概论——四五六节：模型评估与模型选择，正则化与交叉验证
Allenspringfestival·2023-08-07 11:17

（统计学习方法|李航）第二章感知机——第三节感知机学习算法

目录1.感知机学习算法的原始形式2.感知机学习算法的收敛性3.感知机学习算法的对偶形式1.感知机学习算法的原始形式2.感知机学习算法的收敛性3.感知机学习算法的对偶形式
Allenspringfestival·2023-08-07 11:47

01统计学习及监督学习概论

2019.06.26开始统计学习方法，在此记录下学习历程，梳理思路。
查理的小号·2023-08-05 12:45

动手学深度学习（二）线性神经网络

一、线性回归线性回归模型是一种常用的统计学习方法，用于分析自变量与因变量之间的关系。它通过建立一个关于自变量和因变量的线性方程，来对未知数据进行预测。
向岸看·2023-08-05 11:46
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他