K-means算法简单理解

参考《吴恩达机器学习》

---

要解释K-means算法，用图像说明再合适不过了。
假设有这么一个无标签数据集，我想将它分成两簇：

现在开始执行K-means算法，具体操作如下：

第一步，随机生成两点，这两个点就叫做聚类中心

即：下图中红色蓝色两个叉叉

第二步，进入内循环

K-means是一个迭代算法，它每次迭代都会做两件事，一是簇分配，二是移动聚类中心。听不懂没关系，看下面的图就懂了。

循环内第一步，进行簇分配

即：遍历每个样本点，看看它是离着红色聚类中心近还是离着蓝的近，若离着红的近就把它归到红色簇中去，反之，离着蓝的近就把它归到蓝色簇中去。像下面这样：

循环内第二步，移动聚类中心

即：将两个聚类中心移动到同色的点的均值处（也就是簇的正中央），移动完后就是这样的：

至此，一个循环里的全部操作就完成了。重复上面两个操作直到两个聚类中心不再移动即可停止循环，聚类成功。

为了更容易理解这个循环到底在做什么，我们接着看下一个循环：

第二个循环内第一步，进行簇分配
还是遍历每个样本点，看看它是离着红色聚类中心近还是离着蓝的近，若离着红的近就把它归到红色簇中去，反之，离着蓝的近就把它归到蓝色簇中去，分配后是这样的：

第二个循环内第二步，移动聚类中心
将两个聚类中心移动到同色的点的均值处（也就是簇的正中央），移动完后是这样的

执行完第二个循环了，如果你还没看明白，那就继续看第三个循环：
第三个循环第一步，分配簇：

第三个循环第二步，移动聚类中心：

至此，分配簇不会再改变，聚类中心也不会再继续移动了。说明K-means已经聚合了