李航统计学习方法

人工智能、机器学习、深度学习基本概念

机器学习：是一种统计学习方法，计算机利用已有的数据，得出某种模型，再利用此模型对新的输入数据进行预测，得出结果。随着经验的增加，效果会变好。机器学习=数据+算法+算力机器学习是实现人工智能的一种方法。
大胜归来19·2019-03-13 11:00

《统计学习方法》笔记目录

《统计学习方法》笔记目录1.统计学习方法概论2.感知机3.K近邻法4.朴素贝叶斯法5.决策树6.逻辑斯谛回归和最大熵模型7.支持向量机8.提升方法9.EM算法10.隐马尔科夫模型11.条件随机场
stdcoutzrh·2019-03-12 11:36

《统计学习方法》学习笔记 （第二章）

第二章感知机二分类模型源代码出处：https://github.com/fengdu78/lihang-code/blob/master/code/第2章感知机(Perceptron)/Iris_perceptron.ipynbf(x)=sign(w∗x+b)f(x)=sign(w*x+b)f(x)=sign(w∗x+b)损失函数L(w,b)=−Σyi(w∗xi+b)L(w,b)=-\Sigma{
Hhhhuply·2019-03-11 22:39

机器学习之决策树

适用数据类型：数值型和标称型本文内容大部分来自于《统计学习方法
明天也要加油鸭·2019-03-11 20:05

决策树--统计学习方法

基本模型：决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。决策树由结点和有向边组成。结点分为内部结点和叶结点：内部结点表示一个特征或属性，即图中的圆；叶结点表示一个类，即图中的方框。步骤：特征选择、决策树的生成和决策树的修剪。典型算法：ID3，C4.
一只爱喝酸奶的猫·2019-03-10 17:07

AdaBoost算法介绍

1.BoostingBoosting（提升方法）是将弱学习器算法提升为强学习算法的统计学习方法。
songsong_H·2019-03-10 16:56

防止过拟合方法之添加正则项的思想原理及作用

防止过拟合方法之添加正则项的思想原理及作用一、两种风险最小化二、利用偏差方差分解理解正则化作用一、两种风险最小化李航老师的统计学习方法中提到了两种风险最小化，一种是经验风险最小化，另一种是结构风险最小化
Laurel1115·2019-03-10 16:07

统计学习方法-第一章

统计学习方法第一章关于统计的一些理解关于联合概率分布以及映射监督学习中的决策方式经验风险结构风险与决策方式泛化误差关于统计的一些理解机器学习的目的在于找到复杂数据中的关联性，数据的独立性越强，则有效数据越多
那年柒月人未眠·2019-03-09 16:47

统计学习方法第二章习题代码实现

image.pngimportosimportsysfromnumpyimport*#importnumpyasnp#reload(sys)#sys.setdefaultencoding('utf-8')#首先将书上的训练集输入defloadDataset():dataSet=[[3,3],[4,3],[1,1]]labels=[1,1,-1]returndataSet,labels#定义sign
梦vctor·2019-03-08 17:02

统计学习方法第三章k-近邻法习题代码实现

image.pngimage.pngimage.pngimportpandasaspdimportnumpyasnpimporttime#fromsklearn.cross_validationimporttrain_test_split#fromsklearn.metricsimportaccuracy_scoredefPredict(testset,trainset,train_labels)
梦vctor·2019-03-08 17:42

《统计学习方法》学习笔记（第一章）

第一章统计学习方法概论使用最小二乘法拟和曲线源代码出处：https://github.com/fengdu78/lihang-code/blob/master/code/第1章统计学习方法概论(LeastSquaresMethod
Hhhhuply·2019-03-07 09:00

机器学习读书笔记——第一章　绪论（一）

今天是第一次开始在csdn上面写博客，也是开始记录周志华《机器学习》、李航《统计学习方法》等书籍的读书笔记，让自己养成良好的读书习惯，通过写笔记进一步加深理解。
清水阁散人·2019-03-06 15:04

【统计学习方法by李航】第二章实践——感知机

第二章实践一、代码：二、感知机，代码解释（有部分删改）：三、自己写的代码，求出的w和b是差不多的，没有用pandas和numpy链接：[全文章目录]一、代码：！！！第二部分代码无法直接在python中运行，要在jupyternotebook等环境中打开。Github链接：代码（打开无代码，换个浏览器试试）二、感知机，代码解释（有部分删改）：数据使用说明：这里使用的是sklearn中的iris数据集
Artlex·2019-03-05 17:07

统计学习方法

泛化误差上界机器学习最终目的不是最小的训练误差，而需要看泛化误差；泛化误差：即从训练集泛化至训练集外的过程中的误差，或者直接用来表示泛化误差也行；Hoeffding不等式由大数定理得到：可以看出，当N足够大时，泛化误差和训练误差会非常接近；但这是单一假设函数的情况，实际上，机器学习的假设函数是从很大的集合中选出来的：M表示假设函数集合的大小一般来说，机器学习中的M的值很大。因此，右边不等式值也比很
trcheng·2019-03-05 15:12

隐马尔科夫模型HMM（Hidden Markov Model）学习

等时序模型，机器学习的隐马尔科夫模型HMM（HiddenMarkovModel）也是关于时序的概率模型，在语言识别，强化学习等领域应用较广，HMM的网络及概念可以借鉴深度神经网络的原理方法来理解，本文从李航
段智华·2019-03-05 13:52

决策树

摘自李航的统计机器学习。决策树的本质是树，对应上面具体的问题，构建树的时候，选择年龄、有工作、有自己的房子、信贷情况、他们中谁作为二叉树的第一个节点会让分类的结果准确一点。
宁悦·2019-03-05 10:48

[统计学习方法] 感知机

1.啥叫感知机？感知机是二分类的线性分类模型。输入为实例的特征向量，输出为实例的类别。类别取值为-1，+1。感知机会把输入的实例划分为正负两类的分离超平面，属于判别模型，感知机学习旨在求出训练数据进行线性划分的分离超平面。为此，导入基于误差分类的损失函数，利用梯度下降法对损失函数进行极小化，求的感知机模型。2.感知机定义其中和分别为感知机模型参数，叫权值或者权值向量，叫做偏置量，表示和的内积。为符
Charles_Thanks·2019-03-02 21:08

概率图模型之隐马尔科夫模型(HMM)

  首先抄下《统计学习方法》中HMM的定义和相关知识点：隐马尔科夫模型是关于时序的概率模型，描述由一个隐藏的马尔科夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。
妖皇裂天·2019-03-02 15:13

《统计学习方法》笔记——感知机学习算法的对偶形式

自我感觉《统计学习方法》上关于感知机学习算法的对偶形式讲解不是很清楚，于是查找了其他资料，并对其作如下整理：1，与原始形式相比，对偶形式的改变在于学习目标由w,b变为ni！
章小幽·2019-03-01 15:50

李航 统计学习方法 第一章 习题 参考答案

1.1说明伯努利模型的极大似然估计以及被压死估计中的统计学习方法三要素。统计学习三要素：模型、策略和算法。
AI_Beginner_SYSU·2019-03-01 13:15

大厂Sp offer面试经验分享

www.sohu.com/a/203165129_690895https://www.zhihu.com/question/51039416https://www.nowcoder.com/discuss/15168李航的
haimianjie2012·2019-02-28 00:00

《统计学习方法》 第二章 感知机 笔记

第二章感知机2.1感知机模型是一类二类分类的线性模型模型：从假设空间中找到的一个最优的决策函数：属于判别模型分离超平面：下图左下为正例，右上为负例2.2感知机学习策略定义经验损失函数极小化损失函数的两种选择：误分类点的总数：但该函数不是参数w,b的连续可导函数误分类点到超平面S的总距离：感知机采样该策略，因为该函数不是参数w,b的连续可导函数上式的系数可去，因为w,b分别乘了个系数之后，变成另一个
爱吃草莓的西瓜酱·2019-02-27 19:54

统计学习方法-第二章感知机

1.感知机是二类分类的线性分类模型,感知机旨在学习将训练数据进行线性划分的超平面。假设是数据线性可分。2.定义损失函数使用梯度下降算法求解
风化记忆·2019-02-27 17:00

【机器学习算法】牛顿法和拟牛顿法

文章目录1.牛顿法1.1算法推导2.拟牛顿法2.1DFP算法2.2BFGS(Broyden-Fletcher-Goldfarb-Shanno)算法2.3Broyden类算法1.牛顿法  统计学习方法有了具体形式后就转换为最优化问题
Mankind_萌凯·2019-02-27 15:51

李航.统计学习方法笔记+Python实现(2)第二章 感知机(perceptron)

第二章感知机（perceptron）感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实力划分为正负两类的分离超平面，属于判别模型。函数：f(x)=sign(w∗x+b)f(x)=sign(w*x+b)f(x)=sign(w∗x+b)损失函数：L(w,b)=−Σyi(w∗xi+b)L(w,b)=-\Sigma{y_{i}
geekxiaoz·2019-02-25 20:27

统计学习方法笔记——一、统计学习（机器学习）基础知识（上）

1.1统计学习统计学习也称统计机器学习主要特点：以计算机及网络为平台，建立在计算机及网络之上以数据为研究对象，是数据驱动的学科统计学习的目的是对数据进行预测和分析统计学习以方法为中心，统计学习方法构建模型并应用模型进行预测和分析统计学习是概率论
ITryagain·2019-02-25 20:00

机器学习面试问题整理(2) — SVM支持向量机

SVM硬软间隔对偶的推导概述基本推导和理论还是以看李航老师的《统计学习方法》为主。各种算法的原理，推荐理解到可以手撕的程度。以下为通过网络资源搜集整理的一些问题及答案，准备的
Lestat.Z.·2019-02-24 09:00

李航/徐亦达 统计学习方法第九章EM算法及其推广总结和习题答案

强烈推荐徐亦达老师关于EM算法的讲解视频，本文根据徐老师和李航老师统计学习方法整理，由于公式推导太多，笔记为手写。其中包含混合高斯模型的理解，形象化解释，以及习题链接。习题习题9.1和9.3习题9.4
李滚滚·2019-02-23 16:40

国内外有名的计算机视觉团队和大牛汇总

计算机视觉领域的一些牛人博客，超有实力的研究机构等的网站链接http://blog.csdn.net/baijingjing425/article/details/7591358李航：http://research.microsoft.com
视觉小新·2019-02-23 14:35

回归树学习小记 RegressionTree

下面是李航的统计学习方法中给出的CART回归树的算法。
很吵请安青争·2019-02-22 15:24

统计学习方法（—）——统计学习方法概念

1、统计学习方法概念统计学习方法包括模型的假设空间、模型选择的准则以及模型学习的算法，称统计学习方法的三要素，简称为模型、策略和算法。模型的假设空间：包含所有可能的条件概率分布或决策函数。
倔强超·2019-02-21 17:45

《统计学习方法》自学笔记—1.概论

对于非科班自学机器学习的人来说，李航的《统计学习方法》是最好的第一手入门资料，俗称“小蓝书”。
一路向北321·2019-02-20 09:00

《统计学习方法》读书笔记（1）——感知机学习算法的简单Python实现

第二章感知机的内容，构思了一会儿决定代码实现验证一下，然而过程中把参数www当作了数学中的变量而卡了好一会儿，现学了下numpy发现还是可以写出来的。P30P_{30}P30的伪代码实现：importnumpyasnpn=3w=np.array([0,0])x=np.array([(3,3),(4,3),(1,1)])y=np.array([1,1,-1])b=0yita=1whileTrue:e
无语_·2019-02-19 14:49

阅读书单

待阅读书单-Python3网络爬虫开发实战2019年已阅书单技术类人文类-麦肯锡方法2019.02.15-2019.02.17心理类2018年已读书单技术类统计学习方法2019.1.19~人文类心理学-
进城的乡下人·2019-02-17 21:55

李航 《统计学习方法》第七章支持向量机习题答案

1.比较感知机的对偶形式和线性可分支持向量机的对偶性形式。感知机原始形式：min⁡w,bL(w,b)=−∑xiϵM(yi(w⋅xi+b))\min_{w,b}L(w,b)=-\sum_{x_i\epsilonM}(y_i(w\cdotx_i+b))w,bminL(w,b)=−xiϵM∑(yi(w⋅xi+b))MMM为误分点的集合。等价于min⁡w,bL(w,b)=∑i=1N(−yi(w⋅xi+b)
李滚滚·2019-02-15 22:30

4.机器学习——统计学习三要素与最大似然估计、最大后验概率估计及L1、L2正则化

1.前言之前我一直对于“最大似然估计”犯迷糊，今天在看了陶轻松、忆臻、nebulaf91等人的博客以及李航老师的《统计学习方法》后，豁然开朗，于是在此记下一些心得体会。
把子肉爱上热干面·2019-02-14 16:00

每月学习数理统计--《统计学习方法—李航》(3)： SVM

1.SVM的最优化问题2.拉格朗日乘数法，对偶条件KKT条件3.软件隔支持向量机4.非线性支持向量机，核函数5.SMO算法1.SVM的最优化问题支持向量机（SupportVectorMachine,SVM）的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法，在引入了核方法之后SVM也可以用来解决非线性问题。一般SVM有下面三种：硬间
顾鹏pen·2019-02-13 13:00

统计学习方法读书笔记第二章：感知机

统计学习方法读书笔记第二章：感知机感知机感知机模型感知机学习策略感知机学习算法感知机感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。
LYPG·2019-02-12 18:51

统计学习(李航)提升方法(AdaBoost)

Boost“装袋”（bagging）和“提升”（boost）是构建组合模型的两种最主要的方法，所谓的组合模型是由多个基本模型构成的模型，组合模型的预测效果往往比任意一个基本模型的效果都要好。装袋：每个基本模型由从总体样本中随机抽样得到的不同数据集进行训练得到，通过重抽样得到不同训练数据集的过程称为装袋。提升：每个基本模型训练时的数据集采用不同权重，针对上一个基本模型分类错误的样本增加权重，使得新的
eilot_c·2019-02-10 16:48

机器学习&NLP基础学习笔记

去年暑假综合老师给的ppt和《统计学习方法》一周内对nlp入门时写的笔记，本来放在github上，放在这里方便自己未来回顾。嘎嘎。
panwanning·2019-02-05 21:06

Naive-Bayes(朴素贝叶斯）

原理：朴素贝叶斯算法是一个典型的统计学习方法，主要理论基础就是一个贝叶斯公式，贝叶斯公式的基本定义如下：这个公式虽然看上去简单，但它却能总结历史，预知未来：公式右边总结历史，公式左边预测未来如果把Y看成类别
夏日丶·2019-01-30 14:13

李航《统计学习方法》读书笔记（4）——感知机

概览感知机模型感知机学习策略感知机学习算法感知机学习算法的实现概览感知机（perceptron）二类分类的线性分类模型输入：实例特征向量输出：实例类别，取+1和-1二值旨在求出分离超平面；属于判别模型基于误分类的损失函数，使用梯度下降法对损失函数进行极小化分原始形式和对偶形式感知机模型f(x)=sign(w*x+b)x：实例特征向量w：权值或权值向量b：偏置几何解释w·x+b=0为分离超平面（se
ZhangDanzhu·2019-01-29 13:55

机器学习算法工程师的自我修养

《线性代数》《统计学习方法》《机器学习》《模式识别》《深度学习》，以及《颈椎病康复指南》，这些书籍将长久地伴随着你的工作生涯。
喜欢打酱油的老鸟·2019-01-29 08:56

朴素贝叶斯分类器(Naive Bayes，NB)

文章目录朴素贝叶斯分类器贝叶斯定理统计学习方法三要素模型策略学习利用极大似然估计进行学习NB的假设条件算法流程NB的应用NB的分类多项式NB伯努利NB高斯NB朴素贝叶斯分类器  朴素贝叶斯分类器模型属于监督学习模型
Leon_winter·2019-01-28 16:16

朴素贝叶斯分类器(Naive Bayes，NB)

文章目录朴素贝叶斯分类器贝叶斯定理统计学习方法三要素模型策略学习利用极大似然估计进行学习NB的假设条件算法流程NB的应用NB的分类多项式NB伯努利NB高斯NB朴素贝叶斯分类器  朴素贝叶斯分类器模型属于监督学习模型
Leon_winter·2019-01-28 16:16

瑶瑶

李航是瑶瑶的男朋友，早已在站门口等着，把我们塞进他的小车，一阵油门就往郊区驶去。
踏雪瞻云·2019-01-27 21:42

每月学习数理统计--《统计学习方法—李航》(2)： 感知器

1.感知器的介绍2.感知器的算法3.感知器的更新规则4.感知器的收敛性5.感知器的局限性6.参考文献1.感知器的介绍感知器学习算法(PLA:PerceptionLearningAlgorithm)是1957年提出的算法，比svm要早,实际上他是一种二分类问题的超平面（超平面是比实际维数低一维的集合，可以理解为这个集合的正交补空间的维数为1），一旦我们找到了这个超平面，我们就可以用来执行二分类问题。
顾鹏pen·2019-01-27 14:00

李航《统计学习方法》习题答案

前言：本系列习题系笔者主观完成，一家之言难免有错误之处持续更新中…第一章1.2经过经验风险最小化推导极大似然估计。证明模型是条件概率分布，当损失函数是对数损失函数时，经验风险最小化等价于极大似然估计。先说极大似然估计(多参数可以参考极大似然估计)。设X1,X2,…Xn是来自XXX的样本，则X1，X2，…Xn的联合分布律为：∏i=1np(xi;θ)\prod_{i=1}^np(x_i;\theta)
Mr-Cat伍可猫·2019-01-25 19:10

机器学习（周志华）课后作业/习题答案

李航《统计学习方法》答案见：统计学习方法持续更新中…第一章1.1通常情况下，版本空间是正例的泛化。
Mr-Cat伍可猫·2019-01-23 00:00

感知机模型(perceptron)

文章目录感知机（perceptron）线性可分数据集原始形式统计学习方法三要素学习流程对偶形式原理学习流程感知机（perceptron）  感知机模型属于二分类线性分类模型，属于判别模型和非概率模型。
Leon_winter·2019-01-22 17:25
上一页 44 45 46 47 48 49 50 51 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他