极大似然估计

周志华《机器学习》同步学习笔记 ——第七章 贝叶斯分类器

周志华《机器学习》同步学习笔记——第七章贝叶斯分类器7.1贝叶斯决策论7.2极大似然估计7.3朴素贝叶斯分类器拉普拉斯修正7.4半朴素贝叶斯分类器7.5贝叶斯网结构学习推断7.6EM算法最近白天学车晚上看书我瑞了
克小洛·2020-06-27 08:01

box-cox转换及变换参数lambda估算方法

关于box-cox转换的基础内容请看：BoxCox-变换方法及其实现运用.pptx了解极大似然估计：极大似然估计思想的最简单解释通过上面的内容可以知道，boxcox1p变换中y+c的+c是为了确保(y+
浅笑古今·2020-06-27 04:06

半小时学习最小二乘法

不熟悉极大似然法的读者可以阅读我的另一篇文章《十分钟学习极大似然估计》updata2019/6/13：添加了对线性回归问题的矩阵定义和简要介绍，修改了
EndlessLethe·2020-06-27 02:40

Logistic Regression（逻辑回归）模型实现二分类和多分类

例如：线性判定边界：非线性判定边界：三、二分类和sigmoid函数sigmoid函数图像如下：四、损失函数1.定义2.极大似然估计上面是一种求损失函数的方式，我们也可以换一种方式来求损失函数，即极大似然估计
生活不只*眼前的苟且·2020-06-27 02:07

极大似然估计和贝叶斯决策详解

原理：极大似然估计是
千寻～·2020-06-27 01:47

GMM算法和Python简单实现

这个时候，因为每个篮子的鸡蛋包含有且只有一种，并且彼此之间相同的维生素，即每个篮子的鸡蛋都服从相同的分布，这个时候可以用极大似然估计
11721206·2020-06-26 23:57

最大似然估计方法

起因：我发现LR在知道样本概率分布后，要估计w的值，用到了极大似然估计方法，得到了所谓的损失函数。所以想了解下极大似然估计的原理。最大似然估计方法，是基于总体分布已知情况下的一种参数估计方法。
你看起来很好吃·2020-06-26 23:27

EM算法

1.前提推导2.EM算法EM算法就是含有隐变量的概率模型参数的极大似然估计法。延森不等式（Jensen'sinequality）以丹麥數學家約翰·延森（JohanJensen）命名。
Godlike_51·2020-06-26 21:58

为什么极大似然估计得到的方差是有偏估计

问题来源在学习模式分类过程中，我们会用到极大似然估计，最常见的是用它来估计期望和方差，而概率论中有这个结论，就是极大似然估计得到的方差是有偏的，那么为什么呢？
smallflyingpig·2020-06-26 13:39

EM算法学习记录

本文主要内容来自于《统计学习方法》，主要分为以下部分：极大似然估计EM算法EM算法是用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计，每次迭代由两步组成：E步，求期望；M步，求极大。
苏点儿·2020-06-26 11:05

对于EM算法的理解，看这一篇就够了

EM算法实际上就是含有隐变量的概率模型参数的极大似然估计法，或极大后验概率估计法。
近光·2020-06-26 05:42

经典算法（一）：线性回归

前言1.基本形式2.损失函数2.1损失函数2.1.1最小二乘法2.1.2极大似然估计2.2正规方程法2.2.1一般形式2.2.2矩阵形式2.3梯度下降法2.3.1梯度下降法的代数方式描述2.3.2梯度下降法的矩阵方式描述
wyh_wen·2020-06-25 23:21

统计学习方法 第九章习题答案

0.55,q0=0.67\pi^0=0.46,p^0=0.55,q^0=0.67π0=0.46,p0=0.55,q0=0.67求模型参数θ=(π,p,q)\theta=(\pi,p,q)θ=(π,p,q)的极大似然估计
Brielleqqqqqqjie·2020-06-25 20:23

统计学习方法 第一章习题答案

习题1涉及极大似然估计和贝叶斯估计，可以先看看书的第4章相关内容。
Brielleqqqqqqjie·2020-06-25 20:53

机器学习算法：EM算法

EM算法适用问题：概率模型参数估计模型特点：含隐变量的概率模型学习策略：极大似然估计、极大后验概率估计学习的损失函数：对数似然损失学习算法：迭代算法EM算法给定的训练样本是，样例间独立，我们想找到每个样例隐含的类别
listarya·2020-06-25 20:55

机器学习算法：隐马尔可夫算法

隐马尔可夫算法适用问题：标注问题的统计学习模型模型类型：生成模型模型特点：观测序列与状态序列联合概率分布模型学习策略：极大似然估计、极大后验概率估计学习的损失函数：对数似然函数学习算法：概率计算公式、EM
listarya·2020-06-25 20:55

机器学习算法:决策树

决策树适用问题：多类分类，回归模型类型：判别模型模型特点：分类树、回归树学习策略：正则化的极大似然估计学习的损失函数：对数似然损失学习算法：特征选择树的生成树的剪枝总结：1.分类决策树模型是表示基于特征对实例进行分类的树形结构
listarya·2020-06-25 20:25

机器学习算法：朴素贝叶斯

学习策略：极大似然估计，极大后验概率估计或者损失函数为目标函数的最小化学习的试试函数：对数似然损失学习算法：概率计算公式，EM算法原理：朴素贝叶斯分类（NBC）是以贝叶斯定理为基础并且假设特征条件之间相互独立的方法
listarya·2020-06-25 20:25

瑞利分布,对数正态分布,韦布尔分布,K分布参数极大似然估计的MATLAB实现

里面找也经常是只找到一个或者两个分布的估计，但是有时候得四个分布一起用，找来找去难免会有些麻烦，找到一篇文献：邓泽怀的硕士学位论文《基于实测数据的海杂波统计建模》，里面详细地讲解了上面提到的四种分布参数的矩估计、极大似然估计
三只佩奇不结义·2020-06-25 19:02

关于极大似然估计的总结

一篇写的更好的博客，可以参考1.直观想法：一个随机试验如有若干个可能的结果A，B，C，...，若在一次试验中，结果A出现了，那么可以认为出现的概率P(A)较大。举例：设甲箱中有99个白球，1个黑球；乙箱中有1个白球．99个黑球。现随机取出一箱，再从抽取的一箱中随机取出一球，结果是黑球，这一黑球从乙箱抽取的概率比从甲箱抽取的概率大得多，这时我们自然更多地相信这个黑球是取自乙箱的。一般说来，事件A发生
seeInfinite·2020-06-25 19:12

Python不调包实现逻辑回归和自动求导

LR具体的推导可以参考李航老师的统计学习方法为什么LR损失函数不选MSE,而采用极大似然估计(即交叉熵损失)参考：https://www.cnblogs.com/smartwhite/p/9109815
seeInfinite·2020-06-25 19:40

如何理解抽样估计中的无偏性、有效性和一致性

点估计是参数估计的重要组成部分，点估计的常见方法有矩估计和极大似然估计，衡量一个点估计量的好坏的标准有很多，比较常见的有：无偏性（Unbiasedness）、有效性（Efficiency）和一致性（Consistency
孙ちゃん（颖）♂·2020-06-25 13:36

参数估计之矩估计和极大似然估计概述

参数估计参数估计：是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。它是统计推断的一种基本形式，是数理统计学的一个重要分支，分为点估计和区间估计两部分。点估计：依据样本估计总体分布中所含的未知参数或未知参数的函数。区间估计（置信区间的估计）：依据抽取的样本，根据一定的正确度与精确度的要求，构造出适当的区间，作为总体分布的未知参数或参数的函数的真值所在范围的估计。例如人们常说的有百分之多少
汪雯琦·2020-06-25 09:29

极大似然估计与交叉熵

前言关于极大似然估计和交叉熵我就不介绍了，有兴趣的可以看我其他的博客，我这里只讲他们的联系。
筱踏云·2020-06-25 08:05

极大似然估计和EM算法学习笔记

极大似然估计和EM算法极大似然估计例子EM算法例子极大似然估计估计类条件概率的一种常用策略是先假定其具有某种确定的概率分布形式，再基于训练样本对概率分布的参数进行估计。
O大叔Tz·2020-06-25 03:41

线性模型

目录1、基本形式2、线性回归3、对数几率回归（逻辑回归）3.1、极大释然估计3.1.1、似然函数3.1.2、极大似然估计（MLE）3.1.3、log似然函数3.2、逻辑回归4、线性判别分析5、多分类学习问题
Sunning_001·2020-06-25 00:59

【机器学习】EM算法详解

B站视频讲解EM算法EM算法是一种迭代算法，用于含有隐变量（hiddenvariable）的概率模型参数的极大似然估计，或极大后验概率估计。
菊子皮·2020-06-24 14:18

python大战机器学习（读书笔记）

线性回归求解的两个表示：用最小化均方误差和基于高斯分布的极大似然估计求解线性回归，其结果是一样的（在线性回归中假设Y|X服从高斯分布，而逻辑回归服从伯努利分
li123chen·2020-06-24 04:52

李航《统计学习方法》第4章习题答案参考

第4章朴素贝叶斯法浅谈极大似然估计与贝叶斯估计极大似然估计：频率学派，认为参数是确定存在只是未知的，并且觉得出现的状态假设是按概率最大的情况出现的，所以对极大似然函数求极值就可以得到参数θ.
24thAUG·2020-06-23 20:59

最大似然估计、KL散度和交叉熵

极大似然估计极大似然估计是点估计的一种，我们定义一个似然函数来作为对真实分布的估计，取似然程度最大的一组参数作为估计值。
ffiirree·2020-06-23 17:57

机器学习总结(四)：极大似然估计与最小二乘法

在上一篇博客中，我简单复习了矩估计，这篇博客将对点估计中的另外两个常见估计方法进行总结，分别是极大似然估计与最小二乘法，首先会对各自知识点进行归纳，最后论证这两种参数估计方法在特定条件下的转换关系。
她说巷尾的樱花开了·2020-06-23 17:51

先验概率 后验概率 似然 极大似然估计 极大后验估计 共轭 概念

最近在看LDA，里面涉及到狄利克雷的概念，为了把这个事情搞明白，查了一些相关概率知识，举个例子，掷硬币，伯努利实验中随机变量x={正面,背面}，正面的概率μ为模型参数，假定做了N次试验，Data中观察序列为X={正面，正面。。。。反面}，正面的次数为k，服从二项分布:p(X|μ)∼pk∗(1−P)(N−k)P(X|μ)则成为似然函数。针对观察到的随机变量(也就是Data)X，以及模型参数μ：P(X
hxxiaopei·2020-06-23 17:44

机器学习-朴素贝叶斯

具体来说，利用训练数据学习P(X|Y)和P(Y)的估计，得到联合概率分布：P(X,Y)=P(X)P(X|Y)概率估计方法可以是极大极大似然估计或
Rotation.·2020-06-23 07:59

小象ML——8.EM算法

EM算法EM算法：含有隐变量的概率模型参数的极大似然估计法或极大后验概率估计法隐变量：即未观测变量变量定义观测随机变量/不完全数据(不是类标记)：Y隐随机变量：Z完全数据：Y+Z给定不完全数据Y，其对数似然函数
fan2312·2020-06-23 06:18

机器学习（二十五）— 极大似然估计（MLE）、贝叶斯估计、最大后验概率估计（MAP）区别...

最大似然估计（Maximumlikelihoodestimation,简称MLE）和最大后验概率估计（Maximumaposterioriestimation,简称MAP）是很常用的两种参数估计方法。1、最大似然估计（MLE）在已知试验结果（即是样本）的情况下，用来估计满足这些样本分布的参数，把可能性最大的那个参数作为真实的参数估计。也就是说，最大似然估计，就是利用已知的样本结果，反推最有可能（最
dbsggal90047018·2020-06-23 03:23

贝叶斯线性回归（Bayesian Linear Regression）

BayesianLinearRegression）标签（空格分隔）：监督学习@author:[email protected]@time:2015-06-19原文地址贝叶斯线性回归BayesianLinearRegression原文地址关于参数估计极大似然估计渐进无偏渐进一致最大后验估计贝叶斯估计贝叶斯估计核心问题贝叶斯估计第一个重要元素贝叶斯估计第二个重要元素贝叶斯估计的增量学习贝
Duanxx·2020-06-23 03:26

【原创】极大似然估计中，信息矩阵、Hessian矩阵和协方差矩阵的关系

1.FisherInformationMatrix和HessianofLogLikelihood这个博客根据FisherInformation的定义，非常清晰地证明了为什么FisherInformationMatrix和负的Hessianofloglikelihood是相等的（关键步骤是二阶导运算符和积分可以互换位置！）。2.HessianofNegativeLogLikelihood和Covar
anruoxi3236·2020-06-22 14:39

EM算法

EM算法是一种迭代算法，由Dempster等人于1977年总结提出，主要用于解决含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。
Rachel_nana·2020-06-22 12:14

最大似然估计（MLE）、最大后验概率估计（MAP）以及贝叶斯学派和频率学派

前言frequentiststatistics：模型参数是未知的定值，观测是随机变量；思想是观测数量趋近于无穷大+真实分布属于模型族中->参数的点估计趋近真实值；代表是极大似然估计MLE；不依赖先验。
Norstc·2020-06-22 11:14

统计笔记—浅述朴素贝叶斯

文章目录贝叶斯公式简述（茆书）朴素贝叶斯（naiveBayes）法（李书）理论推导朴素贝叶斯的法的参数估计极大似然估计贝叶斯估计朴素贝叶斯算法的步骤算法小结算例实战—文本分析简言识别性别情感分析小结参考贝叶斯公式简述
Matthew.yy·2020-06-22 10:24

Python 的一些统计函数 Scipy

统计工具统计工具随机数假设检验K-S检验T检验其他函数累计分布概率密度分布信息统计描述分析极大似然估计线性关联程度线性回归importnumpyasnpimportnumpy.linalgasnlgimportscipy.statsasstatsimportscipy.optimizeasoptimportseabornassns
Varalpha·2020-06-22 07:53

《机器学习》阅读心得——七、贝叶斯分类器

1贝叶斯决策论2极大似然估计3朴素贝叶斯分类器4半朴素贝叶斯分类器5贝叶斯网51结构52学习53推断6EM算法7.1贝叶斯决策论  贝叶斯决策论是概率框架下实施决策的基本方法。
TaoismShi·2020-06-22 06:52

常见机器学习面试问题

SVM核函数选择极大似然估计和最大后验估计隐马尔科夫模型
SCS199411·2020-06-22 04:45

威布尔weibull distribution

的进行威布尔拟合，返回拟合的两个值翻译了一下：[PARMHAT,PARMCI]=WBLFIT(X,ALPHA,CENSORING)给定右截尾样本数据Ｘ，计算Weibull分布在取尺度参数Ａ，形状参数Ｂ的极大似然估计及
MrCharles·2020-06-22 02:10

EM（最大期望）算法推导、GMM的应用与代码实现

EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计。使用EM算法的原因首先举李航老师《统计学习方法》中的例子来说明为什么要用EM算法估计含有隐变量的概率模型参数。
颀周·2020-06-21 21:00

【机器学习】EM算法

前言EMEM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。
Daycym·2020-06-21 19:09

机器学习笔记---从极大似然估计的角度看待Logistic回归

前言看完极大似然估计后，想起Logistic回归中的参数估计就是使用这个方法，因此详细的记录整个推导的过程。
Blank_spaces·2020-06-21 17:02

车道线检测

RCNN、SPPNet、FastRCNN、FasterRCNN、YOLOV1V2V3、SSD、FCN、SegNet、U-Net、DeepLabV1V2V3、MaskRCNN车道线检测相机校正、张氏标定法、极大似然估计
あずにゃん·2020-06-21 15:45

极大似然估计详解

极大似然估计以前多次接触过极大似然估计，但一直都不太明白到底什么原理，最近在看贝叶斯分类，对极大似然估计有了新的认识，总结如下：贝叶斯决策首先来看贝叶斯分类，我们都知道经典的贝叶斯公式：其中：p(w)：
知行流浪·2020-06-21 15:02

[白话解析] 深入浅出极大似然估计 & 极大后验概率估计

[白话解析]深入浅出极大似然估计&极大后验概率估计0x00摘要本文在少用数学公式的情况下，尽量仅依靠感性直觉的思考来讲解极大似然估计&极大后验概率估计，并且从名著中找了几个实例给大家看看这两种估计如何应用
罗西的思考·2020-06-21 13:10
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他