EM算法(Expectation - Maximization)通俗实例(What is the expectation maximization algorithm?)

西瓜书 7.6 章 讲到了 EM 算法,并声明此算法为“数据挖掘十大算法”,是 含“隐变量”参数估计问题的重要算法, 然而遗憾的是只用了一页半带过。关于此算法,《统计学习方法》这本书有更详细的解释,然而繁琐的数学推导让一些见公式就犯晕的人并不能很直观的理解到它的精髓。

通俗而言,EM算法正如其名“Expectation - Maximization”,就是 交替使用“期望”和”最大化“ ,直至收敛的过程

关于EM 算法,Chuong B Do & Serafim Batzoglou 在论文《What is the expectation maximization algorithm? 》中举了一个通俗的扔硬币例子,对新人理解EM算法,很有帮助



解释一下,(由于有公式和表格,就直接将word截图了)

EM算法(Expectation - Maximization)通俗实例(What is the expectation maximization algorithm?)_第1张图片EM算法(Expectation - Maximization)通俗实例(What is the expectation maximization algorithm?)_第2张图片


希望这个例子能助你更好的理解 EM 算法~


Reference:

【1】Do C B, Batzoglou S. What is the expectation maximization algorithm?[J]. Nature biotechnology, 2008, 26(8): 897-899.




你可能感兴趣的:(机器学习算法)