EM算法原理

在聚类中我们经常用到EM算法（i.e. Expectation - Maximization）进行参数估计, 在该算法中我们通过函数的凹/凸性，在expectation 和maximization两步中迭代地进行参数估计，并保证可以算法收敛，达到局部最优解。

PS：为了不在11.11这个吉祥的日子发blog，还是打算今天发了，祝单身coder节日快乐，心情愉快~~

由于公式实在太多，这里我就手写了……主要讲了以下几个部分：

1. 凸集，凸函数，凹集，凹函数的概念

2. Jensen's inequality

3. EM算法两步迭代过程与收敛性证明

下面就这三部分予以介绍：

发现好东西了，我的这个看着不是很清晰，大家可以看这个人写的http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.html~

关于Machine Learning更多的学习资料与相关讨论将继续更新，敬请关注本博客和新浪微博Sophia_qing。