什么是EM算法

1. 背景

        EM(expectation maximization algorithm)算法，又名期望极大算法，是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。
EM算法的每次迭代由两步组成:

E步：求期望；
M步：求极大；

EM算法可以用于生成模型的非监督学习。
最大优点：简单性和普适性。

2. EM算法的收敛性

        EM算法与初值的选择有关，选择不同的初值可能得到不同的参数估计值。
        EM算法是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法，其不能保证找到全局最优值。

3. EM算法的应用

        EM算法是学习高斯混合模型的有效方法

4. EM算法的推广-GEM算法