统计学习方法李航

统计学习方法----条件随机场3

条件随机场定义：给定随机变量X（观测序列）条件下，随机变量Y（状态序列）的马尔可夫随机场。（由此可以看出，条件随机场是条件概率分布问题，马尔可夫随机场是联合概率分布问题。）已知马尔可夫随机场中的联合概率分布问题可以分解为场中各个最大团的函数乘积问题，线性链条件随机场中条件概率分布P(Y|X)的因子分解式，各因子是定义在相邻两个节点上的函数。条件随机场的参数化形式、简化形式、矩阵形式及前向-后向算法
778811·2020-08-22 13:00

《统计学习方法》读书笔记——第十一章 条件随机场

写在前面本系列博客是自己对于《统计学习方法》这本书的读书笔记，在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。
'Themis'·2020-08-22 13:00

[CRF] 条件随机场 统计学习方法例11.3 代码实践

defviterbi_CRF(y,t,s):"""统计学习方法例11.3:paramy:输出序列:paramt:转移特征[序列*y标记矩阵*[yi-1,yi]]:params:状态特征[序列*y标记]:
猿球崛起·2020-08-22 13:51

机器学习：《统计学习方法》笔记（二）—— 条件随机场（CRF）

参考：《统计学习方法》——李航；摘要介绍条件随机场的基本概念、概率计算、学习方法、预测方法等内容。
另一个我竟然存在·2020-08-22 13:40

《统计学习方法，李航》：11、条件随机场

其实条件随机场的内容没看懂，所以只写概率无向图模型（马尔科夫随机场）部分。1）概率无向图模型2）概率无向图模型的因子分解3）如何进行因子分解1）概率无向图模型概率无向图模型，又称为马尔科夫随机场，是一个表示联合概率分布的无向图。表示什么的联合概率分布呢？接下来详细介绍。先给出概率图模型定义：对于一个联合概率分布P(Y)和表示它的无向图G，只要无向图G表示的随机变量之间存在【成对马尔科夫性、局部马尔
mmc2015·2020-08-22 13:45

统计（机器）学习及监督学习概论

统计学习及监督学习概论内容精选基本概念定义主要特点统计学习方法三要素实现步骤统计学习的基本分类监督学习无监督学习强化学习其他按模型分类概率模型与非概率模型线性模型与非线性模型参数化模型与非参数化模型按技巧分类贝叶斯学习核方法按算法分类在线学习与批量学习模型评估与模型选择模型评估模型选择方法监督学习的方法生成方法判别方法监督学习的应用本章涉及的数学概念
肥牛ooo·2020-08-22 13:31

推荐系统学习路线

1.基础知识学习STF机器学习视频SKlearntensorflowC++李航2.推荐系统知识推荐系统书籍推荐系统转向算法3.通用知识算法数据结构
m0_37770463·2020-08-22 13:56

条件随机场学习

成文主要源于自然语言处理、机器学习、统计学习方法和部分网上资料对CRF介绍的相关的相关，最后进行大量研究整理汇总成体系知识。文章
Mr.Gavin·2020-08-22 12:41

机器学习-HMM(对隐马尔科夫模型的理解)

备注:主要内容都是摘抄之李航的统计书籍包括：隐马尔科夫模型概念理解，3个基本问题，针对3个问题的解法对HMM（隐马尔可夫的理解）简单理解：严谨表达：以下部分还需要继续理解和巩固
Hans.liang·2020-08-22 12:19

李航统计学习方法-第十章HMM-习题答案（10.3）

本文主要针对李航统计学习方法第十章隐马尔可夫模型的习题10.3,书中P189页，给出了具体的手写计算与推导步骤，如下图所示。
jinhuan_hit·2020-08-22 12:24

隐马尔可夫模型（HMM）——前向算法与后向算法

结合李航老师的《统计学习方法》一起看，很清晰https://blog.csdn.net/zb1165048017/article/details/48577891https://www.cnblogs.com
SortedX·2020-08-22 12:58

隐马尔可夫模型二(公式推导)

如果对于概念不太理解的可以参考前一篇博客HMM模型基本概念，本篇博客主要介绍对于三个问题的主要推倒，内容主要基于统计学习方法这本书，但是在上面加上了一些自己的理解。下面
gzj_1101·2020-08-22 12:37

统计学习方法 李航---第11章 条件随机场

第11章条件随机场条件随机场(conditionalrandomfield,CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题，本章主要讲述线性链(linearchain)条件随机场在标注问题的应用，这时问题变成了由输入序列对输出序列预测的判别模型，形式为对数线性模型，其学习方法通常是极大似然估计或
dazhichang6061·2020-08-22 12:03

隐马尔科夫模型_统计学习方法_学习笔记

前言统计学习方法一书中第9章关于EM算法的核心内容，与之前斯坦福CS229学习笔记差不多，因此不再叙述了。
OliverLee456·2020-08-22 12:24

HMM详解

本文内容主要基于统计学习方法中的内容并加入自己的理解（红字部分为自己的理解）隐马尔可夫模型详解应用隐马尔可夫模型（hiddenMarkovmodel,HMM）通常用于序列标注问题，根据给定的观测的序列来预测其对应的标记序列
亦万·2020-08-22 12:47

条件随机场(Conditional random field)

条件随机场真是把我给折磨坏了啊，本以为一本小小的《统计学习方法》攻坚剩下最后一章，心情还是十分愉悦的，打算一口气把它看完，结果真正啃起来真是无比的艰难啊，每一句对我都好像是天书一般，怎么这么多没有接触过的概念啊
Air_2014·2020-08-22 11:53

HMM与CRF笔记

本文为阅读李航的《统计学习方法》和周志华的西瓜书后，对HMM与CRF的学习笔记，方便日后可回顾完此文即可在面试中回答诸如“简单介绍下CRF”，“HMM是如何训练的”等问题.隐马尔可夫模型-HMM模型定义
pyxiea·2020-08-22 11:11

条件随机场_统计学习方法_学习笔记

前言书中最后一章----条件随机场（ConditionalRandomField，CRF）是目前为止学习到的比较抽象的一个模型了。网络上许多关于书中的此部分内容的博客、学习资源等都是照本宣科，因此学习这部分内容耗费了不少的精力。接下来结合我个人的理解来谈谈条件随机场。因为符号较多，务必清楚每个符号代表的确切含义。目录1一个例子2条件随机场原理2.1概率无向图模型（马尔科夫随机场）2.1.1理解模型
OliverLee456·2020-08-22 11:03

统计学习方法之概论

1.基础概念统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，也称统计机器学习。统计学习是数据驱动的学科，是一门概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的交叉学科。统计学习的对象是数据，它从数据出发，提取数据的特征，抽象出数据的模型，发现数据中的知识，又回到对数据的分析与预测中去。统计学习关于数据的基本假设是同类数据具有一定的统计规律性
Jasonhaven·2020-08-22 10:34

[scikit-learn 机器学习] 8. 非线性分类和决策树

文章目录1.特征选择标准2.网页广告预测2.1数量处理2.2网格搜索模型参数3.决策树优缺点本文为scikit-learn机器学习（第2版）学习笔记相关知识：《统计学习方法》决策树（DecisionTree
Michael阿明·2020-08-22 10:45

李航《统计学习方法》第五章——用Python实现决策树（MNIST数据集）

相关文章:李航《统计学习方法》第二章——用Python实现感知器模型（MNIST数据集）李航《统计学习方法》第三章——用Python实现KNN算法（MNIST数据集）李航《统计学习方法》第四章——用Python
wds2006sdo·2020-08-22 03:12

统计学习方法概论

这篇文章是对《统计学习方法》10个监督学习算法的概论和总结。分别是感知机、k近邻法、朴素贝叶斯法、决策树、逻辑斯蒂回归与最大熵模型、支持向量机、提升方法、EM算法、隐马尔可夫模型、条件随机场。
又双叒叕苟了一天·2020-08-22 02:19

开坑-统计学习方法概论

1.3统计学习三要素方法=模型+策略+算法模型策略算法模型所要学习的条件概率分布或决策函数策略损失函数和风险函数-0-1损失函数-平方损失函数(Y-f(x))^2-绝对损失函数|Y-f(x)|-对数损失函数-logP(Y|X)经验风险最小化和结构风险最小化经验风险最小化(empiricalriskminimization,ERM),样本足够大时有很好的学习效果例如，极大似然估计，模型是条件概率分布
天然猪肉丸·2020-08-22 01:19

【统计学习方法by李航】第一章 统计学习方法概论 个人总结

第一章统计学习方法概论开始的话一、统计学习[1.1]（一）总定义（二）统计学习的方法二、监督学习[1.2]（一）基本概念[1.2.1]1、输入空间、特征空间与输出空间2、联合概率分布3、假设空间（上面名词解释里面有讲
ArtlexKylin·2020-08-21 22:02

统计学习方法 第一章 学习心得

统计学习方法第一章学习心得以下可能有不当之处，请各位朋友停步指正，先谢过各位。上一帖子说道，统计学习方法的三要素：模型、策略、算法.模型：模型的假设空间策略：模型的选择准则，即：定义最优模型的方法。
weixin_33834910·2020-08-21 22:59

R学习:《机器学习与数据科学基于R的统计学习方法》中文PDF+代码

《机器学习与数据科学基于R的统计学习方法》试图指导读者掌握如何完成涉及机器学习的数据科学项目。
weixin_30305735·2020-08-21 22:21

统计学习方法概论

统计学习方法1.监督学习（分类、回归）学习一个模型，使模型能够对任意给定的输入，与其相应的输出做一个好的预测常用算法：NaiveBayes、KNN、SVM、决策树、提升方法Adaboosting、神经网络等
AIHENJIANDAN·2020-08-21 21:54

《统计学习方法》第一章总结及实现最小二乘法拟合曲线

最近在看李航老师的书，也跟着网上的一些总结以及代码实现学习了，接下来会跟着自己的阅读进度进行更新个人总结。
Shannon333·2020-08-21 20:36

《统计学习方法》第一章总结

统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习的对象是数据。目的是对数据进行预测和分析。统计学习关于数据的基本假设是同类数据具有一定的统计规律性，这是统计学习的前提。同类数据是指具有某种共性的数据。eg:浏览器中的网页，英语文章等统计学习分为：监督学习非监督学习半监督学习强化学习监督学习与非监督学习的区别在于是否有用于学习的训练数据。即监督学习是要先
哈特谢普苏特·2020-08-21 20:16

第一章 统计学习方法概论总结

文章目录空间概念最大似然估计（MLE）和最大后验概率估计（MAP）正则化l1正则化和l2正则化生成模型和判别模型空间概念监督学习下输入空间：输入所有可能取值的集合输出空间：输出所有可能取值的集合输入与输出空间可以是有限元素的集合，也可以是整个欧式空间特征空间：所有特征向量（对实例的表示）存在的空间假设空间：输入空间到输出空间映射的集合，即包含所有可能的模型的集合有时候假设输入空间和特征空间是相同的
solejay·2020-08-21 19:47

统计学习方法第一章总结

1、统计学习的方法是基于数据构建统计模型从而对数据进行预测和分析。2、统计学习由监督学习（supervisedlearning）、非监督学习（unsupervisedlearning）、半监督学习（semi-supervisedlearning）、强化学习（reinforcementlearning）组成。3、统计学习三要素：模型的假设空间（模型）、模型选择的准则（策略）、模型学习的算法（算法）。
livenmlts·2020-08-21 19:05

【科幻】外星人日记（4）

外星人日记4：相亲车轮战上传完记录，李航和郑梓轩准备去等会VIP团的报名。两人从接待区向公共休息区走去，通道边上是照片墙，基本上展示的都是配对成功的会员的婚纱照。
笔冢客·2020-08-21 19:25

第一章总结 统计学习三要素的理解

形式化的表达：统计学习方法=模型+策略+算法实现统计学习方法的步骤：1.得到一个有限的训练数据集合2.确定包含所有可能的模型的假设空间，即学习模型的集合3.确定模型选择的准则，即学习的策略4.实现求解最优模型的的算法
Yonghua Li·2020-08-21 18:05

AdaBoost数学原理

参考资料：《机器学习》周志华《统计学习方法》李航【知乎】adaboost为什么不容易过拟合呢？
了不起的赵队·2020-08-21 12:02

机器学习理论《统计学习方法》学习笔记：第五章 决策树

机器学习理论《统计学习方法》学习笔记：第五章决策树决策树5.1决策树模型与学习5.1.1决策树模型5.1.2决策树与if-then规则5.1.3决策树与条件概率分布5.1.4决策树学习5.2特征选择5.2.1
紫芝·2020-08-21 10:29

机器学习理论《统计学习方法》学习笔记：第三章 k近邻法

机器学习理论《统计学习方法》学习笔记：第三章k近邻法3k近邻法3.1K近邻算法3.2K近邻模型3.2.1模型3.2.2距离度量3.2.3K值的选择3.2.4分类决策规则3.3K近邻法的实现：kd树3.3.1
紫芝·2020-08-21 10:29

机器学习理论《统计学习方法》学习笔记：第四章 朴素贝叶斯法

机器学习理论《统计学习方法》学习笔记：第四章朴素贝叶斯法4朴素贝叶斯法4.1朴素贝叶斯法的学习与分类4.1.1基本方法4.1.2后验概率最大化的含义4.2朴素贝叶斯法的参数估计4.2.1极大似然估计4.2.2
紫芝·2020-08-21 10:57

统计学习方法_感知机

感知机感知机1957年由Rosenblatt提出，是神经网络与支持向量机的基础。感知机是二分类线性分类模型，输入是实例特征向量，输出是实例的类别。感知机对应分离超平面，导入基于误分类的损失函数，梯度下降法对损失函数极小化，得到感知机模型。感知机学习算法简单易于实现，分为原始形式和对偶形式。一、感知机模型假设输入空间是X⊆Rn，输出空间是Y={+1，-1}，输入x∈X特征向量，对应输入空间一个点。输
J-溯源·2020-08-20 05:37

统计学习方法:k邻近与k-means的知识(各方收集)

来源:https://blog.csdn.net/zll0927/article/details/170006751.分类和聚类?(from:https://blog.csdn.net/xzfreewind/article/details/73770327)对于分类来说，在对数据集分类时，我们是知道这个数据集是有多少种类的，比如对一个学校的在校大学生进行性别分类，我们会下意识很清楚知道分为“男”,
smile071008·2020-08-20 01:25

KD树在knn算法中的应用

李航博士的书只讲了求得最近邻的一个样本点的检测，但我们实际中要的是k个近邻点。
hincon·2020-08-20 00:35

白话机器学习算法理论+实战之决策树

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法
Miracle8070·2020-08-19 22:44

统计学习方法笔记(六)-非线性支持向量机原理及python实现

非线性支持向量机非线性支持向量机定义非线性支持向量机算法非线性支持向量机学习算法代码案例TensorFlow案例地址非线性支持向量机定义非线性支持向量机从非线性分类训练集，通过核函数与软间隔最大化，或凸二次规划，学习得到的分类决策函数f(x)=sign⁡(∑i=1Nαi∗yiK(x,xi)+b∗){f(x)=\operatorname{sign}\left(\sum_{i=1}^{N}\alpha
脑机接口社区·2020-08-19 06:30

统计学习方法笔记(四)-最大熵模型原理及python实现

最大熵模型最大熵模型最大熵原理最大熵模型代码实现案例地址最大熵模型最大熵模型(maximumentropymodel)可以用于二分类，也可以用于多分类。其是由最大熵原理推导实现的，所以讲最大熵模型时，绕不开最大熵原理。最大熵原理什么是最大熵原理？最大熵原理认为，学习概率模型时，在所有可能的概率模型（概率分布）中，熵最大的模型就是最好的模型。最大熵原理通常表述为在满足约束条件的模型集合中选取熵最大的
脑机接口社区·2020-08-19 06:30

【统计学习方法-李航-笔记总结】五、决策树

本文是李航老师《统计学习方法》第五章的笔记，欢迎大佬巨佬们交流。
zl3090·2020-08-19 06:45

《统计学习方法》算法学习笔记五 之 逻辑斯谛回归与最大熵模型

逻辑斯谛回归与最大熵模型总述逻辑斯谛回归是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型。逻辑斯谛回归与最大熵模型都属于对数模型。逻辑斯谛回归模型1.1逻辑斯谛分布逻辑斯谛分布：设XXX是连续随机变量，XXX服从逻辑斯谛分布是指XXX具有下列分布函数和密度函数：式中，μ\muμ为未知参数，σ>0\sigma>0σ>0为形状参数。分布函数在中心附近增长速度
岳小刀·2020-08-19 06:12

统计学习方法笔记（十）逻辑斯谛回归与最大熵模型

逻辑斯谛回归与最大熵模型主要用于统计学习中的经典分类方法逻辑斯谛回归模型1、定义：设X是连续随机变量，其具有的分布函数和密度函数：F(x)=P(X≤x)=11+e−(x−μ)/γF(x)=P(X≤x)=11+e−(x−μ)/γf(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2f(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2其中，μμ为位置参数，γ>0γ>0
yeyustudy·2020-08-19 06:30

关于《统计学习方法》中第三章构造kd树算法中的中位数问题

最近在看李航所著的《统计学习方法》，很不错的一本书。但在第三章构造平衡kd树时，原书中说的是“以T中所有实例的x(1)坐标的中位数为切分点”（p42），此处的中位数说法自认为不准确。
wzc_1230·2020-08-19 05:56

统计学习方法(4)——贝叶斯分类算法

朴素贝叶斯算法实现简单，学习和预测的效率均很高，是一种非常常用的方法。1贝叶斯算法贝叶斯算法指通过学习数据的先验概率P(Y)和类条件概率P(X=x|Y=ck)分布，通过贝叶斯定理计算出后验概率P(Y=ck|X=x)。因为在实际中，我们往往比较容易得到前两者，通过(1)式我们便可以得到我们实际希望得到的样本在满足x的条件下，属于ck这个类别的后验概率的大小.P(Y|X)=P(X,Y)P(X)=P(X
ginger188·2020-08-19 05:56

极大熵模型和逻辑回归的等价性

以上来源为李航的《统计机器学习》，但是有一些问题他没有讲的很明白在http://www.win-vector.com/dfiles/Logistic
windows2·2020-08-19 05:55

《统计学习方法》学习笔记：（六）logistic回归与最大熵模型

  logistic回归是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型。logistic回归模型与最大熵模型都属于对数线性模型。1.二分类的logistic回归模型二项逻辑斯谛回归模型是一种分类模型，我们通过监督学习的方式来估计模型参数。定义：二项逻辑斯谛回归模型是如下的条件概率分布：这里，x∈R^n是输入，Y∈{0，1}是输出，w和b是参数，w称为权
二进制杯莫停·2020-08-19 05:25
上一页 19 20 21 22 23 24 25 26 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他