聚类分析

分类

聚类分析主要分为几个大类：
1）基于分割的聚类，比如k-means, k-median
2）层次聚类
3）基于密度的聚类
4）基于概率密度分布的聚类

例子

1、基于分割的聚类

#要是没有这个包的话，首先需要安装一下 
install.packages("factoextra")
#载入包
library(factoextra) 
# 载入数据 
data("USArrests") 
# 数据进行标准化 
df <- scale(USArrests) 
# 查看数据的前五行
head(df, n = 5) 
#Murder Assault UrbanPop Rape 
#Alabama 1.24256408 0.7828393 -0.5209066 -0.003416473
#Alaska 0.50786248 1.1068225 -1.2117642 2.484202941 
#Arizona 0.07163341 1.4788032 0.9989801 1.042878388 
#Arkansas 0.23234938 0.2308680 -1.0735927 -0.184916602 
#California 0.27826823 1.2628144 1.7589234 2.067820292 

#确定最佳聚类数目 
fviz_nbclust(df, kmeans, method = "wss") + geom_vline(xintercept = 4, linetype = 2)

#fviz_nbclust(x, FUNcluster = NULL, method = c("silhouette", "wss",
#  "gap_stat"), diss = NULL, k.max = 10, nboot = 100,
#  verbose = interactive(), barfill = "steelblue", barcolor = "steelblue",
#  linecolor = "steelblue", print.summary = TRUE, ...)
#method可以取值：(wss,within sum of square)平方和以内的总和；(silhouette)平均轮廓宽度; (gap_stat) 统计间隔。

method="wss"

图片.png

method="gap_stat"

图片.png

method="silhouette"

图片.png

#根据method="wss"的方法，可以看到把样本分为4类比较合适。
set.seed(100)
#利用k-means进行划分聚类
k_result = kmeans(df,4,nstart=10)
#k_result的结果有：
#cluster：分类
#centers： 中心位置
#size: 每个类别的数目

#查看每一类的数目
> table(k_result$cluster)
# 1  2  3  4 
# 8 16 13 13 

#添加类别到原始数据
raw_cluster= cbind(USArrests, cluster = k_result$cluster)

#可视化
 fviz_cluster(k_result,data=df,palette=rainbow(4),ellipse.type = "euclid",star.plot=T,repel=T,ggtheme = theme_minimal())

结果：

图片.png

一般来说，能够对数据聚类后进行可视化展示的也就是二维，三维数据，如果维度很高的话，一种方法是t-SNE方法，这种方法是按照流型的方法进行可视化，用的比较多。另一种的话，就是利用降维方法，比如主成分分析等，进行降维后可视化展示。

#先求样本之间两两相似性 result <- dist(df, method = "euclidean")
#产生层次结构
result_hc <- hclust(d = result, method = "ward.D2")
#进行初步展示
fviz_dend(result_hc, k = 4, cex = 0.8, k_colors = rainbow(4), color_labels_by_k = TRUE, rect = TRUE )

图片.png