Kmeans、混合高斯模型、EM 算法

混合高斯模型（Mixtures of Gaussians）和EM算法

image.png

Kmeans 与 EM 算法

• E 步是确定隐含类别变量 C
• M 步更新其他参数 u(质心) 来时 J(平方误差) 最小化

隐含类别变量指定方法比较特殊，属于硬指定，从k个类别中硬选出一个给样例，而不是对每个类别赋予不同的概率。总体思想还是一个迭代优化过程，有目标函数，也有参数变量，只是多了个隐含变量，确定其他参数估计隐含变量，再确定隐含变量估计其他参数，直至目标函数最优。