kmeans设置中心_聚类分析:kmeans 算法簇个数的确定

kmeans算法是无监督聚类学习中最常见、最常用的算法之一,其基本原理如下:

1、随机初始化k个聚类中心点,并计算数据中每个点到k个点的距离;

2、将每个数据点分到距离聚类中心点最近的聚类中心中;

3、针对每个类别重新计算聚类中心;

4、重复上面的2、3步骤中,直到达到预先设置的停止条件(迭代次数、最小误差变化等)。

kmeans算法其实挺简单,但是聚类个数k应该如何的选择?目前常用有肘部法则和轮廓系数法等。肘部法则通过寻找损失值下降平稳的拐点来确定k值,而轮廓系统则是通过寻找轮廓系数的最大值来进行计算:

肘部法则SSE(误差平方和):

为第i簇的质心)

轮廓系数:

是样本i在同类别内到其它点的平均距离,
是样本i到最近不同类别中样本的平均距离)

通过Python模拟数据,应用kmeans,分别通过肘部法则和轮廓系数选择相应的k值

import 

随机产生的数据如下图所示:

kmeans设置中心_聚类分析:kmeans 算法簇个数的确定_第1张图片
随机产生3个类别的数据

应用肘部法则来选择相应的k值

#应用肘部法则确定 kmeans方法中的k

k值与sse的走势关系如下图所示:

kmeans设置中心_聚类分析:kmeans 算法簇个数的确定_第2张图片
肘部法则确定最佳的k值

从图中可以明显的看出k在3之后减小的幅度变缓,这说明当k=3之后,如果在增加聚类的类别效果提高不是十分明显,由此可以确认此批数据的k应该取3.

应用轮廓系数确定k

from 

kmeans设置中心_聚类分析:kmeans 算法簇个数的确定_第3张图片
轮廓系数法确定最佳的k值

由上图可以看出当k=3值轮廓系数达到最大值,此时的聚类效果最好,因此k应该选择3。

可以看一下当k=3时聚类中心与样本点的分布情况,选取的聚类中心还是挺准确的。因为是模拟产生的数据,所有聚类效果异常的好,但是在实际的应用中一般不会有这么好的聚类效果 的。

kmeans设置中心_聚类分析:kmeans 算法簇个数的确定_第4张图片
聚类中心与样本点的分布图

你可能感兴趣的:(kmeans设置中心)