kmeans聚类算法_大数据【企业级360全方位用户画像】之RFM模型和KMeans聚类算法

           在上一篇博客《一文带你硬核踏入机器学习的大门》中，已经为大家介绍了很多关于机器学习的基础内容。本篇博客，我们将结合当前阶段正在做的用户画像项目，为大家介绍RFM模型和KMeans聚类算法。

---

一、RFM模型引入

比如电商网站要做一次营销活动，需要针对不同价值的客户群体进行分群，对于高价值的用户推荐手表，珠宝等高端商品，对于低价值用户推荐打折促销的廉价商品，当然还有以下这些问题都是需要考虑的：

1.谁是我的最佳客户？

2.谁即将要成为流失客户？

3.谁将有潜力成为有价值的客户

4.哪些客户能够留存？

5.哪些客户会对你目前对活动有所反应？

那么最终的问题是如何对客户进行分群，即如何建立客户的价值模型呢？

在传统企业和电商众多的客户细分模型中，RFM模型是被广泛提到和使用的。RFM模型是衡量当前用户价值和客户潜在价值的重要工具和手段。

RFM是Rencency(最近一次消费)，Frequency(消费频率)、Monetary(消费金额)，三个指标首字母组合，如图所示：一般情况下RFM模型可以说明下列几个事实：

1.最近购买的时间越近，用户对产品促销互动越大

2.客户购买的频率越高，客户就品牌的满意度就越大

3.货币价值将高消费客户和低消费客户区分开来

---

如图所示，根据RFM模型，就可以统计在某一段时间内，用户最近的消费间隔，消费次数和消费金额，再根据使用 k-means 算法对用户进行聚类分群。

注意一点，不仅仅可以局限于这三个数据字段，还可以根据业务需求，加入其他字段，进行调整模型。我们可以根据RFM模型计算出所有用户的RFM值形成一个二维表:

userid	R值	F值	M值
1	2019-11-01	5	10000
2	2019-10-01	4	800

对于以上数据的量纲不一致(单位不统一),所以要对数据进行归一化

如何归一化? 我们可以自定义归一化的规则!即建立一个评分标准。

那如何建立评分标准?我们可以根据运营/产品的经验,做一个标准，就像这样：

R:  1-3天=5分，4-6天=4分，7-9天=3分，10-15天=2分，大于16天=1分F:  ≥200=5分，150-199=4分，100-149=3分，50-99=2分，1-49=1分M:  ≥20w=5分，10-19w=4分，5-9w=3分，1-4w=2分，<1w=1分

根据上面的打分规则就可以对数据进行自定义的归一化,得到如下类似结果:

userid	R值	F值	M值
1	5	1	2
2	1	1	1

那么现在数据已经归一化了,如何对数据进行分类?

肯定不能简单的将数据直接丢到三维坐标系,因为坐标系的原点不好确定,且三维坐标系只能分为8类。所以应该使用算法进行分类(聚类)。让算法自动学习用户之间的相似度,然后相似度高的用户,自动聚成一类,最后完成聚类的划分。

计算流程

1、首先对所有用户的最近一次消费时间/总共消费次数/总共消费金额进行统计 2、再进行归一化(运营/产品提供的打分规则) 3、再使用算法进行聚类(K-Means) 4、根据聚类结果给用户打Tag(标签)

1、RFM详解

1.1 R值：最近一次消费(Recency)

消费指的是客户在店铺消费最近一次和上一次的时间间隔，理论上R值越小的客户是价值越高的客户，即对店铺的回购几次最有可能产生回应。目前网购便利，顾客已经有了更多的购买选择和更低的购买成本，去除地域的限制因素，客户非常容易流失，因此CRM操盘手想要提高回购率和留存率，需要时刻警惕R值。

如下图，某零食网店用户最近一次消费R值分布图：1、客户R值呈规律性的“波浪形”分布，时间越长，波浪越小；

2、最近一年内用户占比50%(真的很巧)；

数据分析：这个数据根据向行业内专业人员请教，已经是比较理想了的。说明每引入2个客户，就有一位用户在持续购买。说明店铺复购做的比较好。

1.2 F值：消费频率(Frequency)

消费频率是客户在固定时间内的购买次数(一般是1年)。但是如果实操中实际店铺由于受品类宽度的原因，比如卖3C产品，耐用品等即使是忠实粉丝用户也很难在1年内购买多次。所以，有些店铺在运营RFM模型时，会把F值的时间范围去掉，替换成累计购买次数。

如下图，某零食网店用户购买频次图(如1个客户在1天内购买多笔订单，则自动合并为1笔订单)：1、购买1次(新客户)占比为65.5%，产生重复购买(老客户)的占比为34.4%；

2、购买3次及以上(成熟客户)的占比为17%，购买5次及以上(忠实客户)的占比为6%;

数据分析：影响复购的核心因素是商品，因此复购不适合做跨类目比较。比如食品类目和美妆类目：食品是属于“半标品”，产品的标品化程度越高，客户背叛的难度就越小，越难形成忠实用户；但是相对美妆，食品又属于易耗品，消耗周期短，购买频率高，相对容易产生重复购买，因此跨类目复购并不具有可比性。

1.3 M值：消费金额(Monetary)

M值是RFM模型中相对于R值和F值最难使用，但最具有价值的指标。大家熟知的“二八定律”(又名“帕雷托法则”)曾作出过这样的解释：公司80%的收入来自于20%的用户。

这个数据我在自己所从事的公司总都得到过验证！可能有些店铺不会那么精确，一般也会在30%客户贡献70%收入，或者40%贡献60%收入。

理论上M值和F值是一样的，都带有时间范围，指的是一段时间(通常是1年)内的消费金额，在工作中我认为对于一般店铺的类目而言，产品的价格带都是比较单一的，比如：同一品牌美妆类，价格浮动范围基本在某个特定消费群的可接受范围内，加上单一品类购买频次不高，所以对于一般店铺而言，M值对客户细分的作用相对较弱。

所以我认为用店铺的累计购买金额和平均客单价替代传统的M值能更好的体现客户消费金额的差异。

教大家一个特别简单的累积金额划分方法：将1/2的客单价作为累积消费金额的分段，比如客单价是300元，则按照150元进行累计消费金额分段，得出十个分段。

现以国内某知名化妆品店铺举例，店铺平均客单为160元，因此以80元作为间隔将累积消费金额分段，从表中可以很明显发现，累计消费160元以下用户占比为65.5%(近2/3)，贡献的店铺收入比例只占31.6%(近1/3)，具体如下：

2、  基于RFM模型的实践应用

主要有两种方法来分析RFM模型的结果：用基于RFM模型的划分标准来进行客户细分，用基于RFM模型的客户评分来进行客户细分。

2.1 基于RFM模型进行客户细分

CRM实操时可以选择RFM模型中的1-3个指标进行客户细分，如下表所示。切记细分指标需要在自己可操控的合理范围内，并非越多越好，一旦用户细分群组过多，一来会给自己的营销方案执行带来较大的难度，而来可能会遗漏用户群或者对同个用户造成多次打扰。

最终选择多少个指标有两个参考标准：店铺的客户基数，店铺的商品和客户结构。店铺的客户基数：在店铺客户一定的情况下选择的维度越多，细分出来每一组的用户越少。对于店铺基数不大(5万以下客户数)的店铺而言，选择1-2个维度进行细分即可。对于客户超过50万的大卖家而言可以选择2-3个指标。

店铺的商品和客户结构：如果在店铺的商品层次比较单一，客单价差异幅度不大的情况下，购买频次(F值)和消费金额(M值)高度相关的情况下，可以只选择比较容易操作的购买频次(F值)代替消费金额(M值)。对于刚刚开店还没形成客户粘性的店铺，则可以放弃购买频次(F值)，直接用最后一次消费(R值)或者消费金额(M值)。

2.2 通过RFM模型评分后输出目标用户

除了直接用RFM模型对用户进行分组之外，还有一种常见的方法是利用RFM模型的三个属性对客户进行打分，通过打分确定每个用户的质量，最终筛选出自己的目标用户。

RFM模型评分主要有三个部分：

1、确定RFM三个指标的分段和每个分段的分值；
2、计算每个客户RFM三个指标的得分；
3、计算每个客户的总得分，并且根据总得分筛选出优质的客户

比如，实操的过程中一般每个指标分为3-5段，其中R值可以根据开店以来的时间和产品的回购周期来判定，F值根据现有店铺的平均购买频次，M值可参考上文客单价的分段指标。

举个例子：确认RFM的分段和对应分段的分值之后，就可以按照用户情况对应进行打分。

这个时候可能有人会对此产生质疑，我如何验证这个给予的分值就是合理的呢？一般使用经验值或用算法模型进行验证。

这里提供一个段子，可谓是很形象了。

二、KMeans聚类算法

1、算法原理

在正式开始之前，我们可以先通过几个网址来感受一下KMeans的魅力。

首先是 http://shabal.in/visuals/kmeans/3.html，我们可以通过刷新页面多次，来观察不同的KMeans聚类过程。下图是我把四次不同的结果合并在一起的一个结果。通过观察，我们可以得到初步结论：

• 中心点数量4， 起始位置不相同。
• 中心点可以移动
• 中心点最后不移动

第二个网址是 https://www.naftaliharris.com/blog/visualizing-k-means-clustering/

这个网站更牛的一点是，可以自定义可视化K均值聚类。也就是，我们可以自定义K的数量，和初始位置，来查看不同的结果。

初始情况下，大家应该看到的是下面这种情况接下来，我分别在图中的四个位置设置质心的位置然后不断的点击Go

最后可能会看到类似如下的结果:再让我们来看下其他的解释最后将不同种类的数据分到了不同的区域。有点类似班级位置的一个分布为了节约码字的时间，下面借助一些PPT来为大家说明我们可以得出，KMeans的计算步骤

1、选择 K 个点作为初始聚类中心 2、计算其他的点到中心点的距离, 进行聚类, 使用欧式距离 3、重新计算每个聚类的中心点, 再次聚类 4、直到中心点不再变化, 或者达到迭代次数

2、快速体验

接下来让我们来感受一下KMeans的魅力。

2.1 数据集

IRIS数据集由Fisher在1936年整理的一个经典数据集，在统计学习和机器学习领域都经常被用作示例。

数据集内包含 3 类共 150 条记录，每类各 50 个数据，每条数据包含4个特征，都是浮点数，单位为厘米。

Sepal.Length(花萼长度)
Sepal.Width(花萼宽度)
Petal.Length(花瓣长度)
Petal.Width(花瓣宽度))

目标值为鸢尾花的分类:

Iris Setosa(山鸢尾)
Iris Versicolour(杂色鸢尾)
Iris Virginica(维吉尼亚鸢尾)

其中的数据分布如下:

2.2 代码演示

import org.apache.spark.ml.clustering.{KMeans, KMeansModel}
import org.apache.spark.ml.feature.{MinMaxScaler, MinMaxScalerModel}
import org.apache.spark.sql.{DataFrame, SparkSession}

/*
用于实现  使用 kmeans 为鸢尾花数据分类
 */
object Iris {

  def main(args: Array[String]): Unit = {

    //1、创建sparlsession对象
    val spark: SparkSession = SparkSession.builder().appName("Iris").master("local[*]").getOrCreate()

    spark.sparkContext.setLogLevel("WARN")
     
    //2、读取libsvm 数据
    val irisLibSvmDF: DataFrame = spark.read.format("libsvm")
      .load("file:///E:\\数据集\\iris_kmeans.txt")
    irisLibSvmDF.show(false)
  
    /*
 +-----+-------------------------------+
|label|features                       |
+-----+-------------------------------+
|1.0  |(4,[0,1,2,3],[5.1,3.5,1.4,0.2])|
|1.0  |(4,[0,1,2,3],[4.9,3.0,1.4,0.2])|
|1.0  |(4,[0,1,2,3],[4.7,3.2,1.3,0.2])|
|1.0  |(4,[0,1,2,3],[4.6,3.1,1.5,0.2])|
|1.0  |(4,[0,1,2,3],[5.0,3.6,1.4,0.2])|
     */

    //3、数据归一化(将数据归一到0-1之间，计算速度快)
    //数据归一化
    //把数据映射到0～1范围之内处理，更加便捷快速
    //MinMaxScaler  把有量纲表达式变成无量纲表达式，便于不同单位或量级的指标能够进行比较和加权。
    //x' = (x - X_min) / (X_max - X_min)

    val scalerDatas: MinMaxScalerModel = new MinMaxScaler()
      .setInputCol("features") //设置需要归一化的列
      .setOutputCol("featuresOut") //归一化后的数据的列名字
      .fit(irisLibSvmDF) //设置数据


    val scalerDF: DataFrame = scalerDatas.transform(irisLibSvmDF)
    scalerDF.show(false)
/*
+-----+-------------------------------+---------------------------------------------------------------------------------+
|label|features                       |featuresOut                                                                      |
+-----+-------------------------------+---------------------------------------------------------------------------------+
|1.0  |(4,[0,1,2,3],[5.1,3.5,1.4,0.2])|[0.22222222222222213,0.6249999999999999,0.06779661016949151,0.04166666666666667] |
|1.0  |(4,[0,1,2,3],[4.9,3.0,1.4,0.2])|[0.1666666666666668,0.41666666666666663,0.06779661016949151,0.04166666666666667] |
|1.0  |(4,[0,1,2,3],[4.7,3.2,1.3,0.2])|[0.11111111111111119,0.5,0.05084745762711865,0.04166666666666667]                |
|1.0  |(4,[0,1,2,3],[4.6,3.1,1.5,0.2])|[0.08333333333333327,0.4583333333333333,0.0847457627118644,0.04166666666666667]  |
|1.0  |(4,[0,1,2,3],[5.0,3.6,1.4,0.2])|[0.19444444444444448,0.6666666666666666,0.06779661016949151,0.04166666666666667] |
 */

    //4、使用kmeans进行计算
    val prediction: KMeansModel = new KMeans()
      .setK(3) //设置需要划分类别的数量/个数
      .setMaxIter(10) //设置最大计算次数
      .setFeaturesCol("featuresOut") //设置特征的列    归一化后的列
      .setPredictionCol("predictionValue") //设置最终预测后的结果列名
      .setSeed(10) //设置随机种子
      .fit(scalerDF)
    

    val predictionDF: DataFrame = prediction.transform(scalerDF)
    predictionDF.show(false)
    
    /*
+-----+-------------------------------+---------------------------------------------------------------------------------+---------------+
|label|features                       |featuresOut                                                                      |predictionValue|
+-----+-------------------------------+---------------------------------------------------------------------------------+---------------+
|1.0  |(4,[0,1,2,3],[5.1,3.5,1.4,0.2])|[0.22222222222222213,0.6249999999999999,0.06779661016949151,0.04166666666666667] |0              |
|1.0  |(4,[0,1,2,3],[4.9,3.0,1.4,0.2])|[0.1666666666666668,0.41666666666666663,0.06779661016949151,0.04166666666666667] |0              |
|1.0  |(4,[0,1,2,3],[4.7,3.2,1.3,0.2])|[0.11111111111111119,0.5,0.05084745762711865,0.04166666666666667]                |0              |
|1.0  |(4,[0,1,2,3],[4.6,3.1,1.5,0.2])|[0.08333333333333327,0.4583333333333333,0.0847457627118644,0.04166666666666667]  |0              |
|1.0  |(4,[0,1,2,3],[5.0,3.6,1.4,0.2])|[0.19444444444444448,0.6666666666666666,0.06779661016949151,0.04166666666666667] |0              |
|1.0  |(4,[0,1,2,3],[5.4,3.9,1.7,0.4])|[0.30555555555555564,0.7916666666666665,0.11864406779661016,0.12500000000000003] |0              |
     */


    //简单验证
    predictionDF.groupBy("label","predictionValue").count().show()
  /*
+-----+---------------+-----+
|label|predictionValue|count|
+-----+---------------+-----+
|  2.0|              1|   47|
|  1.0|              0|   50|
|  2.0|              2|    3|
|  3.0|              1|   14|
|  3.0|              2|   36|
+-----+---------------+-----+
*/

  }
}

结语

本篇博客，主要为大家简单介绍了RFM模型和KMeans聚类算法，后续会将其与用户画像的项目结合起来，为大家讲解挖掘型标签开发的过程，敬请期待

如果以上过程中出现了任何的纰漏错误，烦请大佬们指正

受益的朋友或对大数据技术感兴趣的伙伴记得点赞关注支持一波

希望我们都能在学习的道路上越走越远

你点的每个好看，我都认真当成了喜欢