E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航统计学习方法笔记
Viterbi 算法学习(附代码和注解)
例子是参考
李航
的《统计学习方法》P18610.3。如果不明白术语的话,看一下P17310.1。#include#include#includeusingnamesp
CY_TEC
·
2020-08-22 20:36
C/C++学习
机器学习
【统计学习方法-
李航
-笔记总结】十一、条件随机场
本文是
李航
老师《统计学习方法》第十一章的笔记,欢迎大佬巨佬们交流。
zl3090
·
2020-08-22 15:56
机器学习
统计学习方法笔记
(十五)条件随机场(三)
条件随机场的预测算法预测问题:给定条件随机场P(Y|X)P(Y|X)和输入序列(观测序列)x,求条件概率最大的输出序列y∗y∗。条件随机场的预测算法是著名的维特比算法。y∗=argmaxyPw(y|x)=argmaxy(wF(y,x))y∗=argmaxyPw(y|x)=argmaxy(wF(y,x))条件随机场的预测问题变为求非规范化概率最大的最优路径问题:maxy(wF(y,x))ma
yeyustudy
·
2020-08-22 15:44
统计学习方法笔记
统计学习方法笔记
(十五)条件随机场(二)
条件随机场的概率计算问题问题描述:给定条件随机场P(Y|X)P(Y|X),输入序列x和输出序列y,计算条件概率P(Yi=yi|x),P(Yi−1=yi−1,Yi=yi|x)P(Yi=yi|x),P(Yi−1=yi−1,Yi=yi|x)以及相应的数学期望的问题。一、前向-后向算法对每个指标i=0,1,⋯,n+1i=0,1,⋯,n+1,定义前向向量αi(x)αi(x):对于α0(y|x)α0(y|x)
yeyustudy
·
2020-08-22 15:44
统计学习方法笔记
统计学习方法笔记
(十五)条件随机场(一)
条件随机场条件随机场是给定一组输入随机变量条件下另一组输出随机变量的条件概率模型,其假设输出随机变量构成马尔可夫随机场概率无向图模型概率无向图模型,又称为马尔可夫随机场,是一个可以由无向图表示的联合概率分布。一、模型定义1、图是由结点及连接节点的边组成的集合。无向图是指边没有方向的图。概率图模型是由图表示的概率分布。设有联合概率分布P(Y)P(Y),YY是一组随机变量,由无向图G=(V,E)G=(
yeyustudy
·
2020-08-22 15:43
统计学习方法笔记
AI相关机构
华为诺亚方舟实验室:
李航
阿里巴巴:智能客服相关腾讯:优图,图像识别百度:吴恩达带领的深度学习团队中科院自动化研究所IBM中国研究院微软亚太研究院:SeeingMIT:CSAIL西安交大,哈工大
ArimaKisho
·
2020-08-22 15:59
机器学习算法(逻辑回归)-Lect02
《机器学习》
李航
.《统计学习方法》cs229notes吴恩达机器学习-网易云课堂1、Logistic回归损失函数的极大似然推导:西瓜书公式3.27怎么推来的?
sincolxu2018
·
2020-08-22 14:52
算法
条件随机场
作为CRF的入门读物,著名的几篇英文教程难度稍高,还是
李航
博士的《方法》比较适合初学者。其拟牛顿法讲解可以直接与CRF++的代码对应,实为难得。我还单独写了篇《CRF++代码分析》,与本文互为参考。
weixin_33873846
·
2020-08-22 14:55
机器学习:《统计学习方法》笔记(二)—— 条件随机场(CRF)
参考:《统计学习方法》——
李航
;摘要介绍条件随机场的基本概念、概率计算、学习方法、预测方法等内容。
另一个我竟然存在
·
2020-08-22 13:40
机器学习
机器学习理论及应用
《统计学习方法,
李航
》:11、条件随机场
其实条件随机场的内容没看懂,所以只写概率无向图模型(马尔科夫随机场)部分。1)概率无向图模型2)概率无向图模型的因子分解3)如何进行因子分解1)概率无向图模型概率无向图模型,又称为马尔科夫随机场,是一个表示联合概率分布的无向图。表示什么的联合概率分布呢?接下来详细介绍。先给出概率图模型定义:对于一个联合概率分布P(Y)和表示它的无向图G,只要无向图G表示的随机变量之间存在【成对马尔科夫性、局部马尔
mmc2015
·
2020-08-22 13:45
统计(机器)学习及监督学习概论
统计学习及监督学习概论内容精选基本概念定义主要特点统计学习方法三要素实现步骤统计学习的基本分类监督学习无监督学习强化学习其他按模型分类概率模型与非概率模型线性模型与非线性模型参数化模型与非参数化模型按技巧分类贝叶斯学习核方法按算法分类在线学习与批量学习模型评估与模型选择模型评估模型选择方法监督学习的方法生成方法判别方法监督学习的应用本章涉及的数学概念——基于
李航
老师
肥牛ooo
·
2020-08-22 13:31
机器学习
《统计学习方法》系列
机器学习
监督学习
算法
推荐系统学习路线
1.基础知识学习STF机器学习视频SKlearntensorflowC++
李航
2.推荐系统知识推荐系统书籍推荐系统转向算法3.通用知识算法数据结构
m0_37770463
·
2020-08-22 13:56
推荐系统
机器学习-HMM(对隐马尔科夫模型的理解)
备注:主要内容都是摘抄之
李航
的统计书籍包括:隐马尔科夫模型概念理解,3个基本问题,针对3个问题的解法对HMM(隐马尔可夫的理解)简单理解:严谨表达:以下部分还需要继续理解和巩固
Hans.liang
·
2020-08-22 12:19
机器学习
李航
统计学习方法-第十章HMM-习题答案(10.3)
本文主要针对
李航
统计学习方法第十章隐马尔可夫模型的习题10.3,书中P189页,给出了具体的手写计算与推导步骤,如下图所示。
jinhuan_hit
·
2020-08-22 12:24
机器学习
李航统计学习方法
人工智能
隐马尔可夫模型HMM
习题答案
隐马尔可夫模型(HMM)——前向算法与后向算法
结合
李航
老师的《统计学习方法》一起看,很清晰https://blog.csdn.net/zb1165048017/article/details/48577891https://www.cnblogs.com
SortedX
·
2020-08-22 12:58
机器学习
统计学习方法
李航
---第11章 条件随机场
第11章条件随机场条件随机场(conditionalrandomfield,CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题,本章主要讲述线性链(linearchain)条件随机场在标注问题的应用,这时问题变成了由输入序列对输出序列预测的判别模型,形式为对数线性模型,其学习方法通常是极大似然估计或
dazhichang6061
·
2020-08-22 12:03
HMM与CRF笔记
本文为阅读
李航
的《统计学习方法》和周志华的西瓜书后,对HMM与CRF的学习笔记,方便日后可回顾完此文即可在面试中回答诸如“简单介绍下CRF”,“HMM是如何训练的”等问题.隐马尔可夫模型-HMM模型定义
pyxiea
·
2020-08-22 11:11
NLP
Machine
Learning
李航
《统计学习方法》第五章——用Python实现决策树(MNIST数据集)
相关文章:
李航
《统计学习方法》第二章——用Python实现感知器模型(MNIST数据集)
李航
《统计学习方法》第三章——用Python实现KNN算法(MNIST数据集)
李航
《统计学习方法》第四章——用Python
wds2006sdo
·
2020-08-22 03:12
机器学习
算法
【统计学习方法by
李航
】第一章 统计学习方法概论 个人总结
第一章统计学习方法概论开始的话一、统计学习[1.1](一)总定义(二)统计学习的方法二、监督学习[1.2](一)基本概念[1.2.1]1、输入空间、特征空间与输出空间2、联合概率分布3、假设空间(上面名词解释里面有讲)(二)问题的形式化[1.2.2]三、统计学习三要素[1.3](一)模型[1.3.1](二)策略[1.3.2]1、损失函数、代价函数2、风险函数(期望损失)、经验风险(经验损失)【L是
ArtlexKylin
·
2020-08-21 22:02
统计学习方法
《统计学习方法》第一章总结及实现最小二乘法拟合曲线
最近在看
李航
老师的书,也跟着网上的一些总结以及代码实现学习了,接下来会跟着自己的阅读进度进行更新个人总结。
Shannon333
·
2020-08-21 20:36
统计学习方法——学习笔记
【科幻】外星人日记(4)
外星人日记4:相亲车轮战上传完记录,
李航
和郑梓轩准备去等会VIP团的报名。两人从接待区向公共休息区走去,通道边上是照片墙,基本上展示的都是配对成功的会员的婚纱照。
笔冢客
·
2020-08-21 19:25
AdaBoost数学原理
参考资料:《机器学习》周志华《统计学习方法》
李航
【知乎】adaboost为什么不容易过拟合呢?
了不起的赵队
·
2020-08-21 12:02
数据挖掘/机器学习
KD树在knn算法中的应用
李航
博士的书只讲了求得最近邻的一个样本点的检测,但我们实际中要的是k个近邻点。
hincon
·
2020-08-20 00:35
搜索引擎
机器学习
机器学习
图片搜索
图片
统计学习方法笔记
(六)-非线性支持向量机原理及python实现
非线性支持向量机非线性支持向量机定义非线性支持向量机算法非线性支持向量机学习算法代码案例TensorFlow案例地址非线性支持向量机定义非线性支持向量机从非线性分类训练集,通过核函数与软间隔最大化,或凸二次规划,学习得到的分类决策函数f(x)=sign(∑i=1Nαi∗yiK(x,xi)+b∗){f(x)=\operatorname{sign}\left(\sum_{i=1}^{N}\alpha
脑机接口社区
·
2020-08-19 06:30
机器学习算法系列实现
统计学习方法笔记
(四)-最大熵模型原理及python实现
最大熵模型最大熵模型最大熵原理最大熵模型代码实现案例地址最大熵模型最大熵模型(maximumentropymodel)可以用于二分类,也可以用于多分类。其是由最大熵原理推导实现的,所以讲最大熵模型时,绕不开最大熵原理。最大熵原理什么是最大熵原理?最大熵原理认为,学习概率模型时,在所有可能的概率模型(概率分布)中,熵最大的模型就是最好的模型。最大熵原理通常表述为在满足约束条件的模型集合中选取熵最大的
脑机接口社区
·
2020-08-19 06:30
机器学习算法系列实现
【统计学习方法-
李航
-笔记总结】五、决策树
本文是
李航
老师《统计学习方法》第五章的笔记,欢迎大佬巨佬们交流。
zl3090
·
2020-08-19 06:45
机器学习
统计学习方法笔记
(十)逻辑斯谛回归与最大熵模型
逻辑斯谛回归与最大熵模型主要用于统计学习中的经典分类方法逻辑斯谛回归模型1、定义:设X是连续随机变量,其具有的分布函数和密度函数:F(x)=P(X≤x)=11+e−(x−μ)/γF(x)=P(X≤x)=11+e−(x−μ)/γf(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2f(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2其中,μμ为位置参数,γ>0γ>0
yeyustudy
·
2020-08-19 06:30
统计学习方法笔记
关于《统计学习方法》中第三章构造kd树算法中的中位数问题
最近在看
李航
所著的《统计学习方法》,很不错的一本书。但在第三章构造平衡kd树时,原书中说的是“以T中所有实例的x(1)坐标的中位数为切分点”(p42),此处的中位数说法自认为不准确。
wzc_1230
·
2020-08-19 05:56
极大熵模型和逻辑回归的等价性
以上来源为
李航
的《统计机器学习》,但是有一些问题他没有讲的很明白在http://www.win-vector.com/dfiles/Logistic
windows2
·
2020-08-19 05:55
机器学习
kd树之最近邻的搜索Java实现
本算法思想来自于
李航
的《统计学习方法》本文主要实现其kd树最近邻的搜索构造代码已经发表过了,现在也还是写一下,//为了方便储存数据publicclassData{publicdoublex1;publicdoublex2
米米奇
·
2020-08-19 05:54
机器学习之最大熵模型及python实现
本文参考
李航
博士的《统计学习方法》1.最大熵模型原理下面的公式以如下表格的例子进行举例解释:IDageworkinghousecredit_situationlabel1youthnono1refuse2youthnono2refuse3youthyesno2agree4youthyesyes
董蝈蝈
·
2020-08-19 05:36
NLP
机器学习
李航
统计学习方法 例3.2 构造平衡kd数
#weihuiziimportoperatorimportnumpyasnp#kd-tree每个结点中主要包含的数据结构如下classKdNode(object):def__init__(self,dom_elt,split,left,right):self.dom_elt=dom_elt#k维向量节点(k维空间中的一个样本点)self.split=split#整数(进行分割维度的序号)self.
only卉
·
2020-08-19 05:50
logistic回归和最大熵
回顾发现,
李航
的《统计学习方法》有些章节还没看完,为了记录,特意再水一文。
weixin_33881050
·
2020-08-19 04:25
逻辑斯蒂回归模型
本文主要根据周志华的西瓜书以及
李航
的《统计学习方法》中提到的方法,结合自己的想法进行记录的文档,部分概念可能理解不够透彻表述会有问题。
风过留声_涟动无痕
·
2020-08-19 03:41
笔记
《
李航
统计学习方法》学习笔记——第六章 Logistic 回归与最大熵模型
Logistic回归与最大熵模型1.Logistic回归模型2.模型参数估计2.1梯度下降法求参2.2牛顿法求参2.3拟牛顿法求参2.3.1算法DFP2.3.2算法BFGS3.最大熵模型3.1原理3.2模型3.3学习4.模型参数估计4.1改进的迭代尺度法IIS4.2拟牛顿法习题6.1习题6.2习题6.3参考1.Logistic回归模型广义上的线性回归为:f(x)=g−1(ωxT+b)f(x)=g^
eveiiii
·
2020-08-19 03:18
统计学习
《统计学习方法》 第三章 k近邻法总结及代码实现
本文总结内容参考于
李航
老师的《统计学习方法》及其配套课件原文代码作者:https://github.com/wzyonggege/statistical-learning-methodk近邻法的输入为实例的特征向量
Shannon333
·
2020-08-19 03:31
统计学习方法——学习笔记
天池精准医疗大赛——个人赛后总结(一)
一、参赛背景一条工程狗也有自己的数据挖掘梦,自己一直对算法感兴趣,期间关注了很多热门的公众号,天天在CSDN的博客下面学习大牛的经验,也学习了
李航
老师的《统计学习方法》、周志华老师的《机器学习》、《利用
从前从前_
·
2020-08-19 03:56
kd树建立的python实现
本篇博客是参考
李航
的《统计学习方法》第三章3.3,使用python实现kd树的建立。
努力学挖掘机的李某某
·
2020-08-19 03:20
《统计学习方法》笔记
统计学习方法笔记
(一):K近邻法的实现:kd树
实现k近邻算法时,首要考虑的问题是如何对训练数据进行快速的k近邻搜索。这点在特征空间的维数大于训练数据容量时尤为重要。构造kd树 kd树是一种对k为空间中的实例点进行存储的一边对其进行快速检索的树形数据结构。kd树是二叉树,表示对k维空间的一个划分(partition)。构造kd树相当于不断地用垂直于坐标轴的超平面将k维空间切分。构成一系列的k维超矩形区域。kd树的每个结点对应于一个k维的超
好好学习_天天向上de
·
2020-08-19 03:23
学习笔记
统计学习方法
Kd树的具体实现
Kd树的实现pythonKd树的原理
李航
的统计学习方法介绍的Kd树网上大部分创建Kd树的思路Kd树的实现sklearn库中的iris作为本次实验数据集python实现Kd树的原理
李航
的统计学习方法介绍的
李奥去哪了
·
2020-08-19 03:17
python
机器学习
《统计学习方法,
李航
》:3、k临近法与kd树
以后文章就不再强调三要素(模型、策略、算法),而是直接上最新鲜的部分。1)k的选择2)距离的度量3)k临近法的实现:kd树3.1)kd树的构造3.2)kd树的搜索1)k的选择一般初始化为比较小的值,用交叉验证判断哪一个值更好。2)距离的度量我们更常用的是欧氏距离,即p=2。3)k临近法的实现:kd树k临近法的实现主要考虑如何快速地进行k临近搜索。最简单的注意扫描计算距离并找到最小的k个距离点太耗时
mmc2015
·
2020-08-19 02:13
《统计学习方法
李航》
李航
:统计学习方法 学习笔记 6 logistic回归与最大熵模型
目录1.logistic分布函数2.最大熵模型原问题与对偶问题L(p,w)对P(y|x)求偏导6.22及6.23式推导极大似然估计6.26,6.27式3.模型学习的最优化算法改进的迭代尺度法IIS1.logistic分布函数2.最大熵模型原问题与对偶问题如何将约束最优化的原始问题转换为无约束最优化的对偶问题?见该书附录C拉格朗日对偶性。L(p,w)对P(y|x)求偏导w0w_{0}w0处的计算?6
雪清Fand
·
2020-08-19 01:38
学习笔记
机器学习
(
李航
统计方法学习)KNN的Python实现
K-NN(k-nearestneighbor)是一种基本分类与回归的方法,没有训练过程。分类;模型:利用训练数据集对特征向量空间进行划分策略:惰性学习,应该是没有优化策略的算法:略k近邻的三个基本要素:k的选择,距离度量,分类决策规则(多数表决规则等价于经验风险最小)优点:简单好用,容易理解,精度高,理论成熟,既可以用来做分类也可以用来做回归;可用于数值型数据和离散型数据;训练时间复杂度为O(n)
Rudy95
·
2020-08-19 01:03
机器学习基础
统计学习方法笔记
(二)-kd树原理及python实现
kd树kd树简介构造平衡kd树算法原理kd树代码实现案例地址kd树简介kdkdkd树是一种对kkk维空间中的实例点进行存储以便对其进行快速检索的树形数据结构。kdkdkd树构造方法:构造根结点使根结点对应于kkk维空间中包含所有实例点的超矩形区域;递归生成子结点通过递归方法,不断地对kkk维空间进行切分,生成子结点。在超矩形区域(结点)上选择一个坐标轴和在此坐标轴上的一个切分点,确定一个超平面,这
脑机接口社区
·
2020-08-19 00:53
机器学习算法系列实现
【统计学习方法-
李航
-笔记总结】六、逻辑斯谛回归和最大熵模型
本文是
李航
老师《统计学习方法》第六章的笔记,欢迎大佬巨佬们交流。
zl3090
·
2020-08-19 00:52
机器学习
逻辑斯蒂回归(Logistic Regression)
周志华《机器学习》
李航
《统计学习方法》通过逻辑回归的sigmoid函数把线性回归转化到[0,1]之间,这个值为什么可以代表概率?
了不起的赵队
·
2020-08-19 00:17
数据挖掘/机器学习
逻辑回归
机器学习
统计学
数据挖掘
第六章 Logistic回归与最大熵模型
参考资料1.
李航
《统计学习方法》2.github:https://github.com/fengdu78/lihang-codeLogistic模型与最大熵模型都属于对数线性模型是否是线性模型取决于训练的参数是否为线性
bineleanor
·
2020-08-19 00:45
统计学习方法
机器学习
逻辑斯蒂回归2 -- 最大熵模型概念
声明:1,本篇为个人对《2012.
李航
.统计学习方法.pdf》的学习总结,不得用作商用,欢迎转载,但请注明出处(即:本帖地址)。
血影雪梦
·
2020-08-19 00:08
机器学习
k近邻法的实现:kd树
最近在看
李航
博士写的《统计学习方法》一书,其中第三章讲述的k近邻法里面有一节是k近邻法的实现:kd树,关于最近邻法的原理,请大家查阅相关资料,作为一个初学者,觉得
李航
博士的书已经写的很好了,推荐大家阅读
wenwuchige
·
2020-08-19 00:29
统计学习方法
统计学习方法笔记
:逻辑斯谛回归与最大熵模型(上)
感想logisticregression它本身的原理非常好懂,对于二分类问题,其实就是一个sigmoid函数,把它的计算结果当成概率值,哪个大就分到那一类。对于多分类,本质上就是一个softmax函数,归一化后,输出当成概率值,哪个大就属于哪个类。本质上都是用拉格朗日乘法,然后转化成对偶问题求解的,这个方法跟SVM的求解方法没什么两样。但是对于模型的训练,我还是没弄明白牛顿法和拟牛顿法的真正要义,
农民小飞侠
·
2020-08-19 00:17
机器学习
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他