R语言聚类算法比较

说明

在使用不同的聚类算法完成数据聚类操作后，我们可以对算法的性能进行评估，绝大多数情况下，我们即可以使用簇内距离也可以使用簇间距离作为评价标准。使用fpc算法包的cluster.stat函数来比较不同的聚类算法。

操作

导入fpc包，选择层次聚类算法，距离计算采用single方法（最短距离法），将得到簇存放在hc_single中：

library(fpc)
single_c = hclust(dist(customer),method = "single")
hc_single = cutree(single_c,k = 4)

选择层次聚类算法，距离计算采用complete方法（最长距离法），将得到的簇存放在hc_complete：

complete_c = hclust(dist(customer),method = "complete")
hc_complte = cutree(complete_c,k = 4)

选择k均值聚类算法，将得到的簇存放km对象中：

set.seed(22)
km = kmeans(customer,4)

获得km聚类算法聚类结果的基本统计信息：

cs = cluster.stats(dist(customer),km$cluster)

通常我们习惯使用within.cluster.ss和avg.silwidth这两个函数来验证聚类算法：

cs[c("within.cluster.ss","avg.silwidth")]
$within.cluster.ss
[1] 61.3489

$avg.silwidth
[1] 0.4640587

将得到的不同方法生成聚类结果的统计信息并以列表显示：

sapply(list(kmeans = km$cluster,hc_single = hc_single,hc_complte = hc_complte), function(c)cluster.stats(dist(customer),c)[c("within.cluster.ss","avg.silwidth")])
                  kmeans    hc_single hc_complte
within.cluster.ss 61.3489   136.0092  65.94076  
avg.silwidth      0.4640587 0.2481926 0.4255961 

原理

聚类结果的验证通常采用两种技术：簇内距离和簇间距离。其中，簇间距离距离越大，聚类效果越好，而簇内距离越小，聚类效果越理想。使用fpc包中的cluster.stat函数来计算训练好的聚类对象的相关统计信息。
从输出结果可以得知，within.cluster.ss计算的是每个聚类内部的距离平方程，而avg.silwidth计算的是平均轮廓值。within.cluster.ss的计算结果体现了同一个簇之间对象的相关程度，该值越小，簇内对象的相关性越大。而avg.silwidth值则同时考虑了簇内对象的聚合度和簇内对象的聚合度簇间对象的分离度。数学上对于每个点x可以采用下列公式计算其轮廓系数：
轮廓系数（x） = [b(x) - a(x)]/max([b(x),a(x)])
其中，a(x)是点x到所有与它在同一簇中的其他点的平均距离，而b(x)则是点x到所有与它不在同一簇的点平均距离的最小值。通常轮廓系数取值范围为0~1，越接近于1说明聚类效果越好。
从最后产生的结果可以知道，在within.cluster.ss和avg.silwidth测量长度下基于最长距离的层次聚类算法的聚类效果要优于最短距离层次聚类算法和k均值算法。