EM算法理解

问题:讲讲EM算法?

1、什么是EM算法

EM算法是用来估计含有隐变量的概率模型参数的方法。

下面是个人的理解,算法就是确定一个解决问题的模型,而这个模型由各个参数决定,所以所谓的算法就是求解或估计出这些参数。当参数可以由观测到的数据直接估计出来时,用MLE等方法就可以解决,但有些对系统的状态和观测数据存在影响的东西(隐变量)不能被观察到时,就无法按照之前的方法求解。例如HMM模型中,如果仅已知观测序列,不知道状态序列时,无法对HMM参数A、B、Π进行估计。此时就需要EM算法了。

隐变量:不能被直接观察到,但是对系统的状态和能观察到的输出存在影响的一种东西。

2、EM算法流程

EM算法理解_第1张图片

 

你可能感兴趣的:(自然语言处理)