E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航-统计机器学习
李航
《统计学习方法》第五章——用Python实现决策树(MNIST数据集)
相关文章:
李航
《统计学习方法》第二章——用Python实现感知器模型(MNIST数据集)
李航
《统计学习方法》第三章——用Python实现KNN算法(MNIST数据集)
李航
《统计学习方法》第四章——用Python
wds2006sdo
·
2020-08-22 03:12
机器学习
算法
中文分词技术--统计分词
因为大规模语料的建立,
统计机器学习
方法的研究与发展,基于统计的中文分词成为主流主要思想将每个词看做是由词的最小单位字组成的,如果相连的字在大量的文本中出现的次数越多,则说明这几个字组成词的概率越大。
海青色
·
2020-08-22 02:44
统计机器学习
-朴素贝叶斯法
朴素贝叶斯法首先学习输入/输出的联合概率分布。然后基于此模型给定的输入,利用贝叶斯定理求出后验概率最大的输出,即概率最大的。基本方法设输入空间为维向量的集合,输出空间为类标记集合。输入为特征向量,输出为类标记。是定义在输入空间上的随机向量,是定义在输出空间上的随机变量。是和的联合概率分布。训练数据集由独立同分布产生。如果要学习,直接的方法就是学习和,使得。但是条件有个取值,如果每个有个取值,则该条
又双叒叕苟了一天
·
2020-08-22 02:31
统计学习方法概论
统计学习方法概论统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,统计学习也称为
统计机器学习
。
又双叒叕苟了一天
·
2020-08-22 02:19
【统计学习方法by
李航
】第一章 统计学习方法概论 个人总结
第一章统计学习方法概论开始的话一、统计学习[1.1](一)总定义(二)统计学习的方法二、监督学习[1.2](一)基本概念[1.2.1]1、输入空间、特征空间与输出空间2、联合概率分布3、假设空间(上面名词解释里面有讲)(二)问题的形式化[1.2.2]三、统计学习三要素[1.3](一)模型[1.3.1](二)策略[1.3.2]1、损失函数、代价函数2、风险函数(期望损失)、经验风险(经验损失)【L是
ArtlexKylin
·
2020-08-21 22:02
统计学习方法
《统计学习方法》第一章总结及实现最小二乘法拟合曲线
最近在看
李航
老师的书,也跟着网上的一些总结以及代码实现学习了,接下来会跟着自己的阅读进度进行更新个人总结。
Shannon333
·
2020-08-21 20:36
统计学习方法——学习笔记
监督学习之我见
现在我们提及的机器学习,往往指的都是
统计机器学习
。统计学习的方法是基于数据构建统计模型,从而对数据进行预测与分析,统计学习由监督学习、非监督学习、半监督学习和强化学习等组成。
机器学习算法入门
·
2020-08-21 20:14
【科幻】外星人日记(4)
外星人日记4:相亲车轮战上传完记录,
李航
和郑梓轩准备去等会VIP团的报名。两人从接待区向公共休息区走去,通道边上是照片墙,基本上展示的都是配对成功的会员的婚纱照。
笔冢客
·
2020-08-21 19:25
AdaBoost数学原理
参考资料:《机器学习》周志华《统计学习方法》
李航
【知乎】adaboost为什么不容易过拟合呢?
了不起的赵队
·
2020-08-21 12:02
数据挖掘/机器学习
KD树在knn算法中的应用
李航
博士的书只讲了求得最近邻的一个样本点的检测,但我们实际中要的是k个近邻点。
hincon
·
2020-08-20 00:35
搜索引擎
机器学习
机器学习
图片搜索
图片
微博收藏(机器学习课程与论文)(三)
JeremyLin1.0机器学习课程推荐@曹胖胖要减肥给大家推荐两个机器学习课程,log实验室年度呕心沥血之作,张志华老师在交大IEEE班和ACM班机器学习课程全纪录
统计机器学习
地址机器学习导论地址@陈天奇怪
LinJM-机器视觉
·
2020-08-19 16:04
学术讲座及其他
【统计学习方法-
李航
-笔记总结】五、决策树
本文是
李航
老师《统计学习方法》第五章的笔记,欢迎大佬巨佬们交流。
zl3090
·
2020-08-19 06:45
机器学习
关于《统计学习方法》中第三章构造kd树算法中的中位数问题
最近在看
李航
所著的《统计学习方法》,很不错的一本书。但在第三章构造平衡kd树时,原书中说的是“以T中所有实例的x(1)坐标的中位数为切分点”(p42),此处的中位数说法自认为不准确。
wzc_1230
·
2020-08-19 05:56
极大熵模型和逻辑回归的等价性
以上来源为
李航
的《
统计机器学习
》,但是有一些问题他没有讲的很明白在http://www.win-vector.com/dfiles/Logistic
windows2
·
2020-08-19 05:55
机器学习
kd树之最近邻的搜索Java实现
本算法思想来自于
李航
的《统计学习方法》本文主要实现其kd树最近邻的搜索构造代码已经发表过了,现在也还是写一下,//为了方便储存数据publicclassData{publicdoublex1;publicdoublex2
米米奇
·
2020-08-19 05:54
机器学习之最大熵模型及python实现
本文参考
李航
博士的《统计学习方法》1.最大熵模型原理下面的公式以如下表格的例子进行举例解释:IDageworkinghousecredit_situationlabel1youthnono1refuse2youthnono2refuse3youthyesno2agree4youthyesyes
董蝈蝈
·
2020-08-19 05:36
NLP
机器学习
李航
统计学习方法 例3.2 构造平衡kd数
#weihuiziimportoperatorimportnumpyasnp#kd-tree每个结点中主要包含的数据结构如下classKdNode(object):def__init__(self,dom_elt,split,left,right):self.dom_elt=dom_elt#k维向量节点(k维空间中的一个样本点)self.split=split#整数(进行分割维度的序号)self.
only卉
·
2020-08-19 05:50
logistic回归和最大熵
回顾发现,
李航
的《统计学习方法》有些章节还没看完,为了记录,特意再水一文。
weixin_33881050
·
2020-08-19 04:25
逻辑斯蒂回归模型
本文主要根据周志华的西瓜书以及
李航
的《统计学习方法》中提到的方法,结合自己的想法进行记录的文档,部分概念可能理解不够透彻表述会有问题。
风过留声_涟动无痕
·
2020-08-19 03:41
笔记
《
李航
统计学习方法》学习笔记——第六章 Logistic 回归与最大熵模型
Logistic回归与最大熵模型1.Logistic回归模型2.模型参数估计2.1梯度下降法求参2.2牛顿法求参2.3拟牛顿法求参2.3.1算法DFP2.3.2算法BFGS3.最大熵模型3.1原理3.2模型3.3学习4.模型参数估计4.1改进的迭代尺度法IIS4.2拟牛顿法习题6.1习题6.2习题6.3参考1.Logistic回归模型广义上的线性回归为:f(x)=g−1(ωxT+b)f(x)=g^
eveiiii
·
2020-08-19 03:18
统计学习
《统计学习方法》 第三章 k近邻法总结及代码实现
本文总结内容参考于
李航
老师的《统计学习方法》及其配套课件原文代码作者:https://github.com/wzyonggege/statistical-learning-methodk近邻法的输入为实例的特征向量
Shannon333
·
2020-08-19 03:31
统计学习方法——学习笔记
天池精准医疗大赛——个人赛后总结(一)
一、参赛背景一条工程狗也有自己的数据挖掘梦,自己一直对算法感兴趣,期间关注了很多热门的公众号,天天在CSDN的博客下面学习大牛的经验,也学习了
李航
老师的《统计学习方法》、周志华老师的《机器学习》、《利用
从前从前_
·
2020-08-19 03:56
kd树建立的python实现
本篇博客是参考
李航
的《统计学习方法》第三章3.3,使用python实现kd树的建立。
努力学挖掘机的李某某
·
2020-08-19 03:20
《统计学习方法》笔记
Kd树的具体实现
Kd树的实现pythonKd树的原理
李航
的统计学习方法介绍的Kd树网上大部分创建Kd树的思路Kd树的实现sklearn库中的iris作为本次实验数据集python实现Kd树的原理
李航
的统计学习方法介绍的
李奥去哪了
·
2020-08-19 03:17
python
机器学习
《统计学习方法,
李航
》:3、k临近法与kd树
以后文章就不再强调三要素(模型、策略、算法),而是直接上最新鲜的部分。1)k的选择2)距离的度量3)k临近法的实现:kd树3.1)kd树的构造3.2)kd树的搜索1)k的选择一般初始化为比较小的值,用交叉验证判断哪一个值更好。2)距离的度量我们更常用的是欧氏距离,即p=2。3)k临近法的实现:kd树k临近法的实现主要考虑如何快速地进行k临近搜索。最简单的注意扫描计算距离并找到最小的k个距离点太耗时
mmc2015
·
2020-08-19 02:13
《统计学习方法
李航》
李航
:统计学习方法 学习笔记 6 logistic回归与最大熵模型
目录1.logistic分布函数2.最大熵模型原问题与对偶问题L(p,w)对P(y|x)求偏导6.22及6.23式推导极大似然估计6.26,6.27式3.模型学习的最优化算法改进的迭代尺度法IIS1.logistic分布函数2.最大熵模型原问题与对偶问题如何将约束最优化的原始问题转换为无约束最优化的对偶问题?见该书附录C拉格朗日对偶性。L(p,w)对P(y|x)求偏导w0w_{0}w0处的计算?6
雪清Fand
·
2020-08-19 01:38
学习笔记
机器学习
(
李航
统计方法学习)KNN的Python实现
K-NN(k-nearestneighbor)是一种基本分类与回归的方法,没有训练过程。分类;模型:利用训练数据集对特征向量空间进行划分策略:惰性学习,应该是没有优化策略的算法:略k近邻的三个基本要素:k的选择,距离度量,分类决策规则(多数表决规则等价于经验风险最小)优点:简单好用,容易理解,精度高,理论成熟,既可以用来做分类也可以用来做回归;可用于数值型数据和离散型数据;训练时间复杂度为O(n)
Rudy95
·
2020-08-19 01:03
机器学习基础
【统计学习方法-
李航
-笔记总结】六、逻辑斯谛回归和最大熵模型
本文是
李航
老师《统计学习方法》第六章的笔记,欢迎大佬巨佬们交流。
zl3090
·
2020-08-19 00:52
机器学习
逻辑斯蒂回归(Logistic Regression)
周志华《机器学习》
李航
《统计学习方法》通过逻辑回归的sigmoid函数把线性回归转化到[0,1]之间,这个值为什么可以代表概率?
了不起的赵队
·
2020-08-19 00:17
数据挖掘/机器学习
逻辑回归
机器学习
统计学
数据挖掘
第六章 Logistic回归与最大熵模型
参考资料1.
李航
《统计学习方法》2.github:https://github.com/fengdu78/lihang-codeLogistic模型与最大熵模型都属于对数线性模型是否是线性模型取决于训练的参数是否为线性
bineleanor
·
2020-08-19 00:45
统计学习方法
机器学习
逻辑斯蒂回归2 -- 最大熵模型概念
声明:1,本篇为个人对《2012.
李航
.统计学习方法.pdf》的学习总结,不得用作商用,欢迎转载,但请注明出处(即:本帖地址)。
血影雪梦
·
2020-08-19 00:08
机器学习
k近邻法的实现:kd树
最近在看
李航
博士写的《统计学习方法》一书,其中第三章讲述的k近邻法里面有一节是k近邻法的实现:kd树,关于最近邻法的原理,请大家查阅相关资料,作为一个初学者,觉得
李航
博士的书已经写的很好了,推荐大家阅读
wenwuchige
·
2020-08-19 00:29
统计学习方法
《统计学习方法(
李航
)》逻辑斯蒂回归与最大熵模型学习总结
作者:jlianghttps://blog.csdn.net/jliang31.重点归纳1)线性回归(1)是确定两种或以上变量间相互依赖的定量关系的一种统计分析方法。(2)模型:y=wx+b(3)误差函数:(4)常见求解方法最小二乘法梯度下降法其它算法:牛顿法或拟牛顿法(5)最小二乘与梯度下降法关系最小二乘法看作优化方法的话,那么梯度下降法是求解方法的一种。梯度下降法是一种解决问题的数据方法,最小
J-JunLiang
·
2020-08-19 00:09
学习笔记
统计学习方法(李航)学习笔记
年中记录与挖坑
记录前一段时间
李航
大佬跳槽前总结过(原文链接)计算机上达到和人同等的对话能力还非常困难。现在的技术,一般是数据驱动,基于机器学习的。单轮对话有基于分析的,基于检索的,基于生成的方法。
MashoO
·
2020-08-19 00:37
机器学习算法感知机详解加代码
感知机今天出去跑滴滴看到一个小伙子拿了一本
李航
的统计学习方法,于是回家又翻出了这本书打算从头到尾写博客介绍一遍各个算法的原理和代码。
ID3
·
2020-08-19 00:41
机器学习
新建网站了!Github标星过万的吴恩达机器学习、深度学习课程笔记,《统计学习方法》代码实现,可以在线阅读了!...
吴恩达机器学习、深度学习,
李航
老师《统计学习方法》,可以说是机器学习入门的宝典。本文推荐一个网站“机器学习初学者”,把以上资源的笔记、代码实现做成了网页版,可以在线阅读了。
湾区人工智能
·
2020-08-18 13:15
人工智能
编程语言
xhtml
办公软件
nagios
Logistic回归的基本思想与公式推导
无论是在
李航
老师的《统计学习方法》书中,还是在吴恩达老师的机器学习课程中,都是先假设随机变量x服从Logistic分布,即有如下的分布函数和概率密度函数:可是为什么定义这样的分布函数和概率密度函数,对于初学者来说
兔子爱吃萝北
·
2020-08-18 12:29
机器学习
Logistic回归原理分析和实践
Logistic回归原理分析和实践参考资料:机器学习周志华统计学习方法
李航
一些博客:logistic回归详解,详解最大似然估计(MLE)、最大后验概率估计(MAP),以及贝叶斯公式的理解,逻辑回归(LogisticRegression
panfeng_
·
2020-08-18 12:07
机器学习
统计学习方法-框架
本文是作者在阅读
李航
老师《统计学习方法》后,对其中一些重要概念的理解和思考,算是一种形式的笔记,希望跟大家分享,如果转载,请标明作者和出处。
基皮producer
·
2020-08-18 10:37
机器学习
统计学习方法
框架
李航
《统计学习方法》--第一章
统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行分析和预测的一门学科。统计学习三要素:模型,策略,算法模型:在监督学习中,模型就是所要学习的条件概率分布或决策函数。模型的假设空间包含所有可能的条件概率分布或决策函数。在书中称有决策函数表示的模型为非概率模型,由条件概率表示的模型为概率模型。策略:策略就是按照什么样的标准学习或选择最优的模型。统计学习的目的在于从假设空间中选取最优模型
Icevivina
·
2020-08-18 07:51
机器学习算法
统计机器学习
--逻辑斯蒂回归与最大熵模型
一.逻辑斯蒂回归模型逻辑斯蒂回归是统计学习重的经典分类方法。最大熵是概率模型学习的一个准则,将其推广到分类问题得到最大熵模型。逻辑斯蒂回归模型与最大熵模型都属于对数线性模型。1.1逻辑斯蒂分布定义:设X是连续随机变量,X服从逻辑斯蒂分布是指X具有下列分布函数和密度函数:式中,为位置参数,为形状参数。所谓的位置参数就是在x轴上的偏移量,形状参数就是图形的形状啦。其中,曲线在中心附近增长速度较快,在两
逃跑的英雄
·
2020-08-18 00:23
李航-统计机器学习
AdaBoost算法公式形象的解释
0.问题引入以上是
李航
的《统计学习方法》中对AdaBoost算法的描述,虽然后文中也对这里的式子进行了注释,但还不是很明朗,下面是我自己的解读。
comli_cn
·
2020-08-17 21:29
统计学习方法
条件随机场(CRF)
条件随机场应该是机器学习领域比较难的一个算法模型了,难点在于其定义之多(涉及到概率图模型、团等概率)、数学上近似完美(涉及到概率、期望计算,最优化方面的知识),但是其在自然语言处理方面应用效果比较好,所以本文结合
李航
老师的
张博208
·
2020-08-17 21:43
Machine
Learning
李航
统计学习方法-感知机理论
感知机模型感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和–1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。感知机学习算法具有简单而易于实现的优点,分为原始形式和
JohnBanana
·
2020-08-17 17:05
李航统计学习方法
李航
《统计学习方法》第一章复习与习题参考解答
1、统计学习三要素除了介绍一些基本概念之外,
李航
《统计学习方法》第一章的重点是提出了统计学习的三要素,即方法=模型+策略+算法更确切地说,统计学习方法包括模型的假设空间、模型选择的准则以及模型学习的算法
徐子尧
·
2020-08-17 17:59
统计学习方法
李航
(统计学习方法第二章)
第二章感知机感知机是二分类的线性分类模型,分为原始形式和对偶形式。是神经网络和支持向量机的基础。介绍感知机模型叙述感知机的学习策略(特别是损失函数)介绍感知机学习算法(包括原始形式和对偶形式),并验证算法收敛性。2.1感知机模型定义2.1(感知机)假设输入空间(特征空间)是 χ⊆Rn \,\chi\subseteqR^n\,χ⊆Rn,输出空间是 Y={+1,−1} \,Y=\{+1,-1\}\,Y
公琉星追
·
2020-08-17 17:34
机器学习
统计学习方法·笔记·第一章·概论
《统计学习方法》第一章概论统计学习(statisticallearning)也称
统计机器学习
。
Moon00zz
·
2020-08-17 17:12
读书笔记
李航
第二章课后习题答案
2.1**题目描述:**Minsky和Papert指出:感知机是线性模型,所以不能表示复杂的函数。如异或(XOR),验证感知机为什么不能表示异或。解:异或的输入输出如下:x(1)x(1)11-11-11-111-1-1-1接下来我们简单证明一下异或操作的线性不可分性:证:利用反证法,假设存在一个超平面wx+b=0wx+b=0,满足条件:y(w⋅x+b)>0y(w⋅x+b)>0∀x∈{(1,1)T,
weixin_43780431
·
2020-08-17 17:00
机器学习
李航统计学习方法
支持向量机SVM(一)原始函数与对偶函数
所有公式已做手动推导,为了美观(字丑),将选择贴出周老先生西瓜书的一些结论和
李航
统计机器学习
和南瓜书推导过程。
请叫我Ricardo
·
2020-08-17 16:14
机器学习
李航
《统计学习方法》第二版学习笔记汇总(包括理论和技术部分,持续更新ing...)
目录第1章统计学习及监督学习概论理论部分第2章感知机理论部分技术部分第3章k近邻法理论部分技术部分第4章朴素贝叶斯法第5章决策树第6章逻辑斯蒂回归与最大熵模型第7章支持向量机第8章提升方法第9章EM算法及其推广第10章隐马尔可夫模型第11章条件随机场第1章统计学习及监督学习概论理论部分第2章感知机理论部分技术部分第3章k近邻法理论部分技术部分第4章朴素贝叶斯法(待更新…)第5章决策树(待更新…)第
城序猿
·
2020-08-17 16:08
机器学习
上一页
12
13
14
15
16
17
18
19
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他