极大似然估计

EM 算法

这个算法李航在《统计学习方法》上说的比较好:“EM算法是一种迭代算法，用于含有隐变量的概率模型产生的极大似然估计，或极大后验概率估计。”
qiusuoxiaozi·2016-03-16 17:00

机器学习之 EM算法

算法概述EM算法，即期望极大算法(expectationmaximizationalgorithm)是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。
qq_23968185·2016-03-15 14:00

EM 算法 理论

EM算法的基本思想极大似然估计–示例极大似然估计步骤极大似然估计求解EM算法EM算法步骤EM算法推导EM算法的高斯混合模型应用高斯混合模型参数估计的EM算法E步M步两个模型均值估计结果
mlljava1111·2016-03-10 16:00

极大似然估计，最大后验概率估计(MAP)，贝叶斯估计

1、贝叶斯公式三种参数估计方法都和贝叶斯公式有关，因此首先从分析贝叶斯公式入手：贝叶斯公式可以表达为： posterior：通过样本X得到参数的概率likehood：通过参数得到样本X的概率prior：参数的先验概率，一般是根据人的先验知识来得出的。比如人们倾向于认为抛硬币实验会符合先验分布：beta分布。当我们选择beta分布的参数时，代表人们认为抛硬币得到正反面的概率都是0.5evidence
vividonly·2016-02-23 14:00

斯坦福大学损失函数推导

在线性回归中，CostFunction是，关于这个公式的推导，首先由一个假设,其中满足高斯分布，.那么根据得出在这里，把看成是随机变量，那么服从高斯分布，，对于给定的X，theta要估计y的分布是怎么样的，极大似然估计函数为
codemosi·2016-02-22 18:18

EM算法

EM算法是一种迭代算法，用于含有隐变量(hiddenvariable)的概率模型参数的极大似然估计，或极大后验概率估计。
rubbninja·2016-02-17 16:00

数理统计部分

参数估计基本概念总体样本统计量矩估计极大似然估计和贝叶斯估计参数的点估计问题矩估计法极大似然估计贝叶斯法点估计的优良性准则估计量的无偏性最小方差无偏估计参数估计基本概念数理统计：它使用概率论和数学的方法
guanhang89·2016-02-16 12:00

机器学习中的EM算法详解及R语言实例（1）

但下面将要介绍的EM算法就要困难许多了，它与极大似然估计密切相关。1算法原理不妨从一个例子开始我们的讨论，假设现在有100个人的身高数据，而且这100条数据是随机抽取的。
白马负金羁·2016-02-02 23:45

机器学习中的EM算法详解及R语言实例（1）

但下面将要介绍的EM算法就要困难许多了，它与极大似然估计密切相关。1算法原理不妨从一个例子开始我们的讨论，假设现在有100个人的身高数据，而且这100条数据是随机抽取的。
baimafujinji·2016-02-02 23:00

机器学习笔记（二）矩估计，极大似然估计

1.参数估计：矩估计样本统计量设X1,X2…Xn…为一组样本，则-样本均值:X¯¯¯=1n∑i=1nXi-样本方差：S2=1n−1∑i=1n(Xi−X¯¯¯)2样本方差的分布使用n-1而非n，是为了无偏-k阶样本原点矩(k=1时即均值)Ak=1n∑i=1nXkik阶样本中心矩(k=2时即方差)Mk=1n∑i=1n(Xi−X¯¯¯)k1.1矩估计那么随机变量的矩和样本的矩，有什么关系？换个提法：假设
Cins侯卓·2016-02-01 12:15

李航《统计学习方法》读书笔记（1）：朴素贝叶斯分类

所以，朴素贝叶斯分类提出了条件独立的假设，使得联合分布大大简化联合分布的学习可以使用极大似然估计，即训练集中不同情况的频数除以总数计算得到，这里不再赘述。（2）利用MAP（最大后验概率）
JOE_FANNIE·2016-01-24 12:43

[数学学习]数学知识回顾之概率统计与信息论

Logistic回归模型Logistic分布联合界与Hoeffding不等式联合界定理Hoeffding不等式极大似然估计信息论基本理论熵联合熵条件熵链式法则互信息Logistic回归模型Logistic
u010536377·2016-01-23 14:00

逻辑回归 算法 理论

极大似然估计极大似然估计步骤极大似然估计示例示例引入逻辑回归逻辑回归的由来logistic函数(sigmoid函数)sigmoid函数求导Sigmoid函数性质极大似然估计参数回顾梯度下降法梯度上升法批处理梯度上升法随机梯度上升法批处理梯度上升法随机梯度上升法随机梯度上升法结果分析改进的随机梯度上升法改进的随机梯度上升法迭代多次效果三种优化算法的结果对比
mlljava1111·2016-01-23 12:00

极大似然估计

转自http://blog.csdn.net/bingduanlbd/article/details/24384771极大似然估计，顾名思义是一种估计方法。
KIDGIN7439·2016-01-20 15:00

最优估计书籍推荐

一些常听到的算法如最小二乘法、极大似然估计、卡尔曼滤波、扩展卡尔曼、粒子滤波都属于最优估计理论的范围。    下面我就来推荐2本学习书籍，一本中文的，一本英文的。  1.
w5862338·2016-01-14 23:00

ML—EM

EM算法主要用于带隐含变量的极大似然估计求解问题，主要思想是迭代求解，保证收敛，但不保证全局收敛(对给定的不同的初始值最后可能会得到不同的局部最优值)。
zhangzhengyi03539·2015-12-14 17:00

线性代数基础知识-2

高斯分布幂律分布（长尾分布）幂律分布的应用数理统计的基本概念样本的矩矩估计极大似然估计（最大似然估计）极大似然估计MLE正态分布的极大似然估计化简对数似然函数大数定律和中心极限定理伯努利大数定律中心极限定理奥克
mlljava1111·2015-12-11 20:00

EM算法 学习笔记

如果告诉了男生的身高，我们很容易用极大似然估计求出正态分布的参数。同理，给出了女生的身高，我们也很容易得到高斯分布的参数。接下来事情发生了，男生跑入女生队伍
Gu Feiyang·2015-12-10 18:00

判别模型:(LDA),QDA,KNN以及逻辑斯蒂回归（二）

不同的是：逻辑斯蒂决策边界的参数是通过极大似然估计出来的，而LDA决策边界是通过估计正态分布均值和方差计算出来的。KNN分类器对决策边界的形状没有做出任
Distrlili·2015-12-06 21:20

漫谈机器学习经典算法—理解EM算法

info/2015/11/12/Master-EM-Algorithm.html写在前面EM（ExpectationMaximization期望最大化）算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计
lanbing510·2015-11-15 15:32

漫谈机器学习经典算法—理解EM算法

info/2015/11/12/Master-EM-Algorithm.html写在前面EM（ExpectationMaximization期望最大化）算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计
lanbing510·2015-11-15 15:00

极大似然估计

　极大似然估计方法是求估计的另一种方法,1821年首先由德国数学家C. F. Gauss提出，但是这个方法通常被归功于英国的统计学家R. A.
·2015-11-12 18:14

EM 算法

但是有时候还会有未知参数，这样就不能使用极大似然估计。当然这个参数与我们要估计的参数是有关联的。 比如说调查 男生 女生身高的问题。身高肯定是服从高斯分布。以往我们
·2015-11-11 12:49

EM算法(Expectation Maximization)

1 极大似然估计     假设有如图1的X所示的抽取的n个学生某门课程的成绩，又知学生的成绩符合高斯分布f(x|μ,σ2)，求学生的成绩最符合哪种高斯分布，即μ和σ2最优值是什么
·2015-11-11 05:06

【机器学习】EM算法详细推导和讲解

众所周知，极大似然估计是一种应用很广泛的参数估计方法。例如我手头有一些东北人的身高的数据，又知道身高的概率模型是高斯分布，那么利用极大化似然函数的方法可以估计出高斯分布的两个参数，均值和方差。
·2015-11-11 01:15

2012-1-学习总结

构造估计量常用的方法有矩估计和极大似然估计法。点估计估计参数的值，区间估计估计参数的
·2015-11-11 00:17

EM算法

EM算法是一种针对含有隐变量的模型的参数估计方法，具体来说是极大似然估计和最大后验概率估计。该算法分为两步，第一步求期望，第二步对期望进行最大化。首先，我们定义Y是观测变量，Z是隐变量。
march_on·2015-11-07 23:00

估计实例R语言: 极大似然估计实例

最近使用开发的过程中出现了一个小问题，顺便记录一下原因和方法--估计实例     同济<概率论与数理统计> 习题 7.2     某厂晶体管寿命屈服 E(lamda) 指数分布, Lamda未知, 且Lamda>0, 随机抽取样本寿命如下(小时) 518,612,713,388,434 用极大似然
·2015-11-02 14:13

数据挖掘经典算法——最大期望算法

nbsp;     最大期望算法（Exception Maximization Algorithm，后文简称EM算法）是一种启发式的迭代算法，用于实现用样本对含有隐变量的模型的参数做极大似然估计
·2015-11-01 14:09

SPSS统计功能与模块对照表

: 摘要 描述 方差 轮廓 - SPSS Base 2 AREG (评估从一个时间点到下一个时间点回归相关时的误差) : 预测 - SPSS Trends 3 ARIMA (季节和非季节性单变量模型的极大似然估计
·2015-10-31 09:18

机器学习第三课（EM算法和高斯混合模型）

极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。说的是已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，参数估计就是通过若干次试验，观察其结果，利用结果推出参数的大概值。
·2015-10-30 16:15

数据挖掘复习 回归2

通过极大似然估计来训练逻辑回归。
鹊桥仙·2015-10-05 16:00

数据挖掘复习 回归2

通过极大似然估计来训练逻辑回归。
鹊桥仙·2015-10-05 16:00

朴素贝叶斯法的参数估计

极大似然估计在朴素贝叶斯法中，可以使用极大似然估计法估计相应的概率。可以用极大似然估计去估计先验概率。贝叶斯估计：用极大似然估计可能会出现所要估计的概率值为0的情况。这时会影响到后验概率的结果。
f81892461·2015-09-26 16:00

极大似然思想原理

极大似然估计，顾名思义是一种估计方法。既然是一种估计方法，我们至少必须搞清楚几个问题：估计什么？需要什么前提或假设？如何估计？估计的准确度如何？
ZhikangFu·2015-08-14 19:00

EM算法

简介ＥＭ算法是一种迭代算法，用于含有隐含变量（hiddenvariable）的概率模型参数的极大似然估计，或极大后验概率估计。
qunxingvip·2015-08-07 21:00

实战EM算法与图像分割

EM算法是求参数极大似然估计的一种方法，它可以从非完整数据集中对参数进行估计，是一种非常简单实用的学习算法。
on2way·2015-08-06 21:00

朴素贝叶斯分类

朴素贝叶斯分类核心思想选择具有最高概率的类别如：P(ci|X)>P(cj|X)，则属于ci类P(ci|X)=0，等于0时候就是极大似然估计，为1时候称为拉普拉斯平滑（Laplacesmoothing）显然对任何
qunxingvip·2015-07-11 12:00

简单易学的机器学习算法——EM算法

Logistic回归问题属于监督型学习问题，样本中含有训练的特征以及标签，在Logistic回归的参数求解中，通过构造样本属于类别和类别的概率：这样便能得到Logistic回归的属于不同类别的概率函数：此时，使用极大似然估计便能够
zhiyong_will·2015-06-12 14:48

简单易学的机器学习算法——EM算法

Logistic回归问题属于监督型学习问题，样本中含有训练的特征以及标签，在Logistic回归的参数求解中，通过构造样本属于类别和类别的概率：这样便能得到Logistic回归的属于不同类别的概率函数：此时，使用极大似然估计便
google19890102·2015-06-12 14:00

Logistic Regression[逻辑回归]

逻辑分布（Logisticdistribution）公式P(Y=1│X=x)=exp(x'β)/(1+exp(x'β))其中参数β常用极大似然估计。
散关清渭·2015-06-11 00:00

EM算法和FA

EM极大似然估计：要求样本来自同一个分布，然后估计参数。EM：为个体指定一个参数–>估计参数–>调节分布–>估计参数。
ZSZ_shsf·2015-05-10 16:00

最大似然概率和后验概率的区别

极大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为，参数是客观存在的，只是未知而矣。
xietingcandice·2015-04-22 10:00

特定条件下经验风险最小化等价于极大似然估计的证明

看过李航老师的《统计学习方法》的同学都知道，机器学习（统计学习）的三要素为：模型、策略、和算法。其中，模型就是所要学习的条件概率分布或者决策函数。模型的假设空间包含所有可能的条件概率分布或决策函数。统计学习的目标在于从假设空间中选取最优模型。其中的两种选择最优模型的策略就是经验风险最小化和结构风险最小化。而算法负责根据策略求解出最优模型。今天我尝试着给出《统计学习方法》第9页的“当模型是条件概率分
Orange先生·2015-04-09 20:35

EM算法

在人工智能,数理统计,机器学习,模式识别中有许多的应用都要进行模型的参数估计,也就是要进行极大似然估计或极大后验似然估计。当模型中的变量均为可以直接观察的变量时,极大似然或极大后验似然是显然的。
u014568921·2015-04-06 22:00

李航统计学习方法笔记1 统计学习方法概论

度量模型一次预测的好坏，用一个损失函数来度量预测错误的程度风险函数：度量平局意义下模型预测的好坏经验风险：模型f(x关于训练数据集的平均损失当模型上条件概率分布，损失函数是对数损失函数时，经验风险最小化就等价于极大似然估计
helh522·2015-03-16 10:14

机器学习基础（三）Logistic回归模型

代价函数为：这个代价函数的推导涉及到极大似然估计，推导如下：整合上面两式：在独立同分布的前提下，似然函数：取对数：可以看出代价函数多了一步均值化处理。对于Logistic回归模型的求解有两种方法
luxialan·2015-01-18 10:00

极大似然估计和贝叶斯估计

转载于http://blog.sciencenet.cn/blog-520608-703219.html极大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。
andyelvis·2015-01-05 15:00

贝叶斯估计和最大后验估计

极大似然估计和贝叶斯估计：http://blog.sciencenet.cn/blog-520608-703219
樂天·2015-01-03 11:00

最大似然估计的一个示例

最大似然估计（又“极大似然估计”，MaximumLikelihoodEstimate）：最大似然估计和最小二乘法怎么理解？
樂天·2015-01-03 11:00
上一页 22 23 24 25 26 27 28 29 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他