《统计学习方法,李航》:9、EM算法及其推广(2)

1)EM算法的引入

2)EM算法及简单解释


3)EM算法在高斯混合模型中的应用

4)EM算法的推广——GEM算法



3)EM算法在高斯混合模型中的应用

EM算法的重要应用是高斯混合模型的参数估计。

先给出高斯混合模型:

《统计学习方法,李航》:9、EM算法及其推广(2)_第1张图片

下面介绍利用EM算法估算高斯混合模型的参数theta:

-)先明确一下目标:

a)明确隐含变量,写出完全数据(直接变量+隐含变量)的对数似然函数:

b)E步:确定Q函数

《统计学习方法,李航》:9、EM算法及其推广(2)_第2张图片

c)M步:极大化Q函数

《统计学习方法,李航》:9、EM算法及其推广(2)_第3张图片

最后总结一下高斯混合模型参数估算的EM算法:


4)EM算法的推广——GEM算法

参考原书P166-P169,不再给出。

你可能感兴趣的:(《统计学习方法,李航》:9、EM算法及其推广(2))