EM算法总结（一）

前言

EM算法广泛用于含有隐藏变量的模型的极大似然估计。
参考：

• 文曲经典：统计学习方法-李航

参数分析

$$\begin{array}{rl}\theta =& [P(z_1|x),P(z_2|x),\cdots ,P(z_m|x),P(y_1|z_1,x),\\ & P(y_2|z_1,x),\cdots ,P(y_n|z_1,x),P(y_1|z_2,x)\cdots ,P(y_k|z_m,x)\cdots ,P(y_n|z_m,x)]\end{array}$$
即EM算法中的参数其实就是到中间变量的条件概率和从中间变量到类别标签y的条件概率。