原型聚类(K-means聚类、LVQ、高斯混合聚类)

转自:周志华《机器学习》第9章

转自:http://blog.csdn.net/sunanger_wang/article/details/8852746

1、K-means

有样本D(x1,x2,...,xn),先随机找K个点作为类别中心,(1)计算每个样本距K个点的距离,将样本分类到距离最近的点,(2)根据每类的样本更新类别中心

原型聚类(K-means聚类、LVQ、高斯混合聚类)_第1张图片


2、LVQ,学习向量量化

前提:假设所有样本是有类别标记的,每个样本Xi,有类别标记Yi

找K个原型向量,(1)随机选一个样本(xi,yi),计算和K个向量的距离,找最近的那个Ki   (2)如果Ki=yi ,更新Ki靠近Xi, 否则更新Ki远离xi

原型聚类(K-means聚类、LVQ、高斯混合聚类)_第2张图片


3、高斯混合聚类

看做K个高斯模型产生样本,使用概率函数

原型聚类(K-means聚类、LVQ、高斯混合聚类)_第3张图片原型聚类(K-means聚类、LVQ、高斯混合聚类)_第4张图片原型聚类(K-means聚类、LVQ、高斯混合聚类)_第5张图片原型聚类(K-means聚类、LVQ、高斯混合聚类)_第6张图片


你可能感兴趣的:(机器学习算法,机器学习,聚类,高斯混合聚类,K-means,LVQ)