LDA中的variational EM 跟EM

variational EM:
http://net.pku.edu.cn/~zhaoxin/vEMLDA.pdf

EM:
http://www.cnblogs.com/biyeymyhjob/archive/2012/07/21/2603020.html

估计方法都是用的MLE, variational EM 估计 α β (对应EM中的 z ),而实际上也要求的是 θ z 隐变量(对应EM中的 z )。
目标都是最大化似然函数。

EM既可以求参数也可以求隐变量

注意:
- variational EM 不是用的MAP 和 Bayesian Inference,而是用的MLE
- Bayesian Inference 是gibbs sampling用的
- MAP 是Sparse topic coding用的

你可能感兴趣的:(LDA中的variational EM 跟EM)