Spark2.0机器学习系列之10： 聚类(高斯混合模型 GMM）

       在Spark2.0版本中（不是基于RDD API的MLlib），共有四种聚类方法：
     （1）K-means
     （2）Latent Dirichlet allocation (LDA)
     （3）Bisecting k-means（二分k均值算法）
     （4）Gaussian Mixture Model (GMM)。
       基于RDD API的MLLib中，共有六种聚类方法：
     （1）K-means
     （2）Gaussian mixture
     （3）Power iteration clustering (PIC)
     （4）Latent Dirichlet allocation (LDA)**
     （5）Bisecting k-means
     （6）Streaming k-means
       多了Power iteration clustering (PIC)和Streaming k-means两种。
       本文将介绍其中的一种高斯混合模型 ，Gaussian Mixture Model (GMM)。其它方法在我的Spark机器学习系列里面，都会介绍。

       混合模型：通过密度函数的线性合并来表示未知模型 p(x)
      为什么提出混合模型，那是因为单一模型与实际数据的分布严重不符，但是几个模型混合以后却能很好的描述和预测数据。
       高斯混合模型（GMM），说的是把数据可以看作是从数个高斯分布中生成出来的。虽然我们可以用不同的分布来随意地构造 XX Mixture Model ，但是 GMM是最为流行。另外，Mixture Model 本身其实也是可以变得任意复杂的，通过增加 Model 的个数，我们可以任意地逼近任何连续的概率密分布。
      二维情况下高斯分布模拟产生数据的分布是椭圆，如下图：

      对于下面图（a）观测数据，单一的高斯概率分布函数（一个椭圆）无法表达，仔细看图（a）近似包含三个椭圆，所以可以将三个高斯概率分布函数线性组合起来，各个函数有不同的参数 N（σi,μi） 和权重 πi 。线性组合

p(x|μi,σi,πi)=∑i=13πi12π−−√σiexp(−(x−μi)22σ2i)

这样就能计算所有样本出现的概率了。图（b）已经明确了样本分类。

       更一般地，GMM认为数据是从 K 个高斯函数组合而来的，即

p(x)=∑k=1KπkN(x;μk,σk)

       隐含 K 个高斯函数，K 需要首先确定好。
       如果估计未知参数 π,μ,σ ,我们首先得分析以下最大似然估计：

∑i=1Nlog{∑k=1KπkN(x;μk,σk)}

       由于在对数函数里面又有加和，我们没法直接用求导解方程的办法直接求得最大值。为了解决这个问题，采用了EM方法。
       EM算法可参考我的另一篇文章
《机器学习算法（优化）之二：期望最大化（EM）算法》 http://blog.csdn.net/qq_34531825/article/details/52856948.

EM算法模型参数估计

       每个GMM由K个Gaussian component分布组成。我以一维Gaussian函数，GMM模型有3个隐含component为例，通俗的说明。
E过程：
       假定我们通过迭代（或者初始化），假设已经已经知道了GMM模型的三个component Gaussian函数的参数 θ(t)=（σ(t)1,μ(t)1）、（σ(t)2,μ(t)2）、（σ(t)3,μ(t)3） ，且这三个函数分别以 π(t)1=0.3、π(t)2=0.3、π(t)3=0.4 的概率被GMM模型选中（即 π(t)i为第i个component的权重 )。
       高斯混合模型为 p(x|θ)=0.3∗N(x;μ1,σ1)+0.3∗N(x;μ2,σ2)+0.4∗N(x;μ3,σ3)
       迭代的第t步，对于观测到的 x 点，那么他究竟是3个隐含的Gaussina曲线中的那一个产生的呢？应该说都有可能，只是产生的概率大小不一样而已。如图中的x点，它由N(x;μ3,σ3)产生的可能性最大，概率为 π3∗N(x;μ3,σ3) ，假设为0.4*0.30=0.12，其次是 π2∗N(x;μ2,σ2) ，假设为0.3*0.15=0.045，最小是 π1∗N(x;μ1,σ1) ，假设为0.3*0.02=0.006。因此 x 出现总的概率是0.12+0.045+0.006=0.1656。

      从另一个角度看，对于观测到的某个点 x ，推测是由N(x;μ3,σ3)产生的可能性有多大，自然我们认为是：0.12/0.1656=0.7246(虽然非常简单，但是理解这一点是后面E步公式得出的关键点）;以此类推测， x 是由N(x;μ2,σ2)产生的可能性=0.045/0.1656=0.2717, x 是由N(x;μ1,σ1)产生的可能性0.006/0.1656=0.0362。

       更一般地，GMM认为数据是从 K 个高斯函数组合而来的，即

p(x)=∑k=1KπkN(x;μk,σk)

       隐含 K 个高斯函数，K 需要首先确定好。任意高斯分布定义为 N(x;μk,σk)，k=1,2,...K .

       （1）E：对于观测点 xi ，是由第 k 个component产生的概率为

γ(xi,k)=π(t)kN(xi;μ(t)k,σ(t)k)∑kj=1π(t)jN(xi;μ(t)j,σ(t)j)

       （2）M： xi 可以看作是有各部分加和而成的，其中由第k个component产生部分自然为： γ(xi,k)xi ，所以可以认为第k个component产生了如下的数据：

γ(xi,k)xi，  i=1,2,...N

       而由于每个 Component 都是一个标准的 Gaussian 分布，可以很容易分布求出最大似然所对应的参数值：
      

μ(t+1)k=1N∑i=1Nγ(xi,k)xi

σ(t+1)k=1Nk∑i=1Nγ(xi,k)(xi−μk)(xi−μk)T

Nk=∑i=1Nγ(xi,k)

π(t+1)k=Nk/N。

       这样就完成了参数的更新，重复E步骤进行下一次迭代，直到算法收敛。

模型参数K设置及聚类结果评估

      大家可能会想到，上图（a)中的数据分布太具有实验性质了，实际中那有这样的数据，但GMM牛逼的地方就在于通过增加 Model 的个数（也就是组成成分的数量K，其实就是我们的分类个数），可以任意地逼近任何连续的概率密分布。所以呢，理论上是绝对支持的，而实际上呢，对于多维特征数据我们往往难以可视化，所以难把握的地方也就在这里，如何选取K 值？换句化说聚类（无监督分类）拿什么标准如何评估模型的好坏？因为如果对结果有好评价指标的话，那么我们就可以实验不同的K，选出最优的那个K就好了，到底有没有呢？
      这个话题又比较长，有人认为聚类的评估一定要做预先标注，没有Index总是让人觉得不靠谱，不是很让人信服。但是也有不同学者提出了大量的评估方法，主要是考虑到不同聚类算法的目标函数相差很大，有些是基于距离的，比如k-means，有些是假设先验分布的，比如GMM，LDA，有些是带有图聚类和谱分析性质的，比如谱聚类，还有些是基于密度的，所以难以拿出一个统一的评估方法，但是正是有这么些个原理上的不同，记着不与算法本身的原理因果颠倒的情况下，那么针对各类方法还是可以提出有针对性的评价指标的，如k-means的均方根误差。其实更应该嵌入到问题中进行评价，很多实际问题中，聚类仅仅是其中的一步，可以对比不聚类的情形（比如人为分割、随机分割数据集等等），所以这时候我们评价『聚类结果好坏』，其实是在评价『聚类是否能对最终结果有好的影响』。（本部分来综合了知乎上的部分问答：如有不妥之处，敬请告知。http://www.zhihu.com/question/19635522）
      关于聚类的评估问题，我计划再写另外一篇文章《Spark聚类结果评估浅析》，不知道能否写好。
CSDN上还有文章可参考： 聚类算法初探（七）聚类分析的效果评测 http://blog.csdn.net/itplus/article/details/10322361

//训练模型
val gmm=new GaussianMixture().setK(2).setMaxIter(100).setSeed(1L)
val model=gmm.fit(dataset)

//输出model参数
for(i<-0 until model.getK){
      println("weight=%f\nmu=%s\nsigma=\n%s\n" format(model.weights(i), model.gaussians(i).mean, model.gaussians(i).cov))
      //weight是各组成成分的权重
      //nsigma是样本协方差矩阵
      //mu(mean)是各类质点位置      

参考文献:
（1）混合高斯模型算法http://www.cnblogs.com/CBDoctor/archive/2011/11/06/2236286.html
（2） 聚类算法初探（七）聚类分析的效果评测 http://blog.csdn.net/itplus/article/details/10322361
（3）知乎 http://www.zhihu.com/question/19635522
（4）Rachel-Zhang的CSDN博客 GMM的EM算法实现 http://blog.csdn.net/abcjennifer/article/details/8198352
（5）漫谈 Clustering (3): Gaussian Mixture Model http://blog.pluskid.org/?p=39