点击上方“Python爬虫与数据挖掘”,进行关注
回复“书籍”即可获赠Python从入门到进阶共10本电子书
今
日
鸡
汤
欲把一麾江海去,乐游原上望昭陵。
导读:本文以真实案例,手把手教你搭建电商系统的用户画像。
先来看该电商用户画像用到的标签。
数据内容包括user_id(用户身份)、item_id(商品)、IDbehavior_type(用户行为类型,包含点击、收藏、加购物车、支付四种行为,分别用数字1、2、3、4表示)、user_geohash(地理位置)、item_category(品类ID,即商品所属的品类)、Time(用户行为发生的时间),其中user_id和item_id因为涉及隐私,做了脱敏处理,显示的是数字编号。
下面是具体的代码实现过程。
01
导入库
本示例除了用到numpy、pandas、matplotlib,还用到其他一些模块。
1# 导入所需的库
2
3%matplotlib inline
4
5import numpy as np
6
7import pandas as pd
8
9from matplotlib import pyplot as plt
10
11from datetime import datetime
参数说明如下。
%matplotlib inline:一个魔法函数,由于%matplotlib inline的存在,当输入plt.plot()后,不必再输入plt.show(),图像将自动显示出来。
datetime:用来显示时间的模块。
02
数据准备
1# 导入数据集
2
3df_orginal = pd.read_csv('./taobao_persona.csv')
4
5# 抽取部分数据
6
7df = df_orginal.sample(frac=0.2,random_state=None)
此处使用Pandas的read_csv方法读取数据文件,由于数据集太大,为了提高运行效率,使用sample函数随机抽取20%的数据。
DataFrame.sample()是Pandas中的函数,DataFrame是一种数据格式,代指df_orginal。frac(fraction)是抽取多少数据,random_state是随机数种子,目的是保证每次随机抽取的数据一样,防止执行命令时使用不一样的数据。
03
数据预处理
1# 查看其中是否有缺失值,统计各字段缺失值
2
3df.isnull().any().sum()
4
5# 发现只有user_geohash有缺失值,且缺失的比例很高,无统计分析的意义,将此列删除
6
7df.drop('user_geohash',axis=1,inplace=True)
8
9# 将time字段拆分为日期和时段
10
11df['date'] = df['time'].str[0:10]
12
13df['time'] = df['time'].str[11:]
14
15df['time'] = df['time'].astype(int)
16
17# date用str方法取0-9位的字符,time取11位到最后一位,将time转化成int类型。
18
19# 将时段分为'凌晨','上午','中午','下午','晚上'
20
21df['hour'] = pd.cut(df['time'],bins=[-1,5,10,13,18,24],labels=['凌晨','上午',
22
23 '中午','下午','晚上'])
结果如图1所示。
图1 数据预处理结果
1# 生成用户标签表,制作好的标签都加入这个表中
2
3users = df['user_id'].unique()
4
5labels = pd.DataFrame(users,columns=['user_id'])
pd.DataFrame():其中数据填充的是users,列名为user_id。
结果如图2所示。
图2 制作好的用户ID
之后分析后的内容都会放置在此表中,相当于建立了一个空白表,将自己分析后的结论一一加入。
04
数构建用户行为标签
1)对用户浏览时间段进行分析
选取出各用户浏览次数最多的时段,看看用户到底在什么时间浏览商品比较多。
1# 对用户和时段分组,统计浏览次数
2
3time_browse = df[df['behavior_type']==1].groupby(['user_id','hour']).item_
4
5 id.count().reset_index()
6
7time_browse.rename(columns={'item_id':'hour_counts'},inplace=True)
8
9# 统计每个用户浏览次数最多的时段
10
11time_browse_max = time_browse.groupby('user_id').hour_counts.max().reset_index()
12
13time_browse_max.rename(columns={'hour_counts':'read_counts_max'},inplace=True)
14
15time_browse = pd.merge(time_browse,time_browse_max,how='left',on='user_id')
16
17# 之前已经按照user_id和hour进行了浏览物品次数的计数统计,现在借用浏览次数统计user_id在
18
19# 哪个时间段浏览次数最多,并将其作为该用户的浏览时间标签的代表。
20
21# 选取各用户浏览次数最多的时段,如有并列最多的时段,用逗号连接
22
23time_browse_hour=time_browse.loc[time_browse['hour_counts']==time_browse['read_
24
25 counts_max'],'hour'].groupby(time_browse['user_id']).aggregate(lambda
26
27 x:','.join(x)).reset_index()
28
29time_browse_hour.head()
30
31# 将用户浏览活跃时间段加入用户标签表中
32
33labels = pd.merge(labels,time_browse_hour,how='left',on='user_id')
34
35labels.rename(columns={'hour':'time_browse'},inplace=True)
36
37# labels相当于一张考试卷纸,上面展示的都是最后处理好的结果
结果如图3所示。
图3 用户浏览时间段
groupby(['key1','key2']):多列聚合,分组键为列名。
reset_index():默认drop=False,可以获得新的index,原来的index变成数据列保留下来,第一列会添加计数的数字,不会使用数据中的index。
rename():进行重命名,此处将item_id替换成hour_counts,inplace为是否原地填充。
pd.merge():将两个表合并在一起,横向合并,on代表通过某个主键,how指左合并,每行一一对应。
loc函数:通过行索引Index中的具体值来取指定数据。
aggregate函数:groupby分组之后会返回多个子数据帧,该函数可以实现数据聚合,可以得到每个子数据帧的某些列的某些信息。
lambda函数:可以定义一个匿名函数,lambda [arg1[, arg2, … argN]]: expression,其中参数是函数的输入,是可选的,后面的表达式则为输出,此处和join()函数一起用,其中每个x值能被“,”隔开;使用类似的代码可以生成浏览活跃时间段,此处就不再赘述。
2)关于类目的用户行为。
1df_browse = df.loc[df['behavior_type']==1,['user_id','item_id','item_category']]
2
3df_collect = df.loc[df['behavior_type']==2,['user_id','item_id','item_category']]
4
5df_cart = df.loc[df['behavior_type']==3,['user_id','item_id','item_category']]
6
7df_buy = df.loc[df['behavior_type']==4,['user_id','item_id','item_category']]
根据不同的用户行为,如浏览、收藏等,分别导出数据进行分析。
1# 对用户与类目进行分组,统计浏览次数
2
3df_cate_most_browse = df_browse.groupby(['user_id','item_category']).item_id.count().
4
5 reset_index()
6
7df_cate_most_browse.rename(columns={'item_id':'item_category_counts'},inplace=
8
9 True)
10
11# 统计每个用户浏览次数最多的类目
12
13df_cate_most_browse_max=df_cate_most_browse.groupby('user_id').item_category_
14
15 counts.max().reset_index()
16
17df_cate_most_browse_max.rename(columns={'item_category_counts':'item_category_
18
19 counts_max'},inplace=True)
20
21df_cate_most_browse = pd.merge(df_cate_most_browse,df_cate_most_browse_max,
22
23 how='left',on='user_id')
24
25# 将item_category的数字类型改为字符串型
26
27df_cate_most_browse['item_category'] = df_cate_most_browse['item_category'].
28
29 astype(str)
30
31# 选取各用户浏览次数最多的类目,如有并列最多的类目,用逗号连接
32
33df_cate_browse=df_cate_most_browse.loc[df_cate_most_browse['item_category_
34
35 counts']==
36
37df_cate_most_browse['item_category_counts_max'],'item_category'].groupby(df_
38
39 cate_most_browse['user_id']).aggregate(lambda x:','.join(x)).reset_index()
40
41# 将用户浏览最多的类目加入用户标签表中
42
43labels = pd.merge(labels,df_cate_browse,how='left',on='user_id')
44
45labels.rename(columns={'item_category':'cate_most_browse'},inplace=True)
46
47labels.head(5)
用户浏览最多的类目如图4所示。
图4 浏览最多的类目
收藏、加购和购买最多的类目生成逻辑相同,重复操作后结果如图5所示。
图5 关于类目的用户行为
从整理的数据中可以看出,浏览、加购物车、收藏、购买之前其实不一定存在明显的必然关系,我们还需要进一步分析得到一些规律。
3)近30天用户行为分析。
近30天购买次数:
1# 将购买行为按用户进行分组,统计次数
2
3df_counts_30_buy = df[df['behavior_type']==4].groupby('user_id').item_id.
4
5 count().reset_index()
6
7labels = pd.merge(labels,df_counts_30_buy,how='left',on='user_id')
8
9labels.rename(columns={'item_id':'counts_30_buy'},inplace=True)
近30天加购次数:
1# 将加购行为按用户进行分组,统计次数
2
3df_counts_30_cart = df[df['behavior_type']==3].groupby('user_id').item_id.
4
5 count().reset_index()
6
7labels = pd.merge(labels,df_counts_30_cart,how='left',on='user_id')
8
9labels.rename(columns={'item_id':'counts_30_cart'},inplace=True)
近30天活跃天数:
1# 对用户进行分组,统计活跃的天数,包括浏览、收藏、加购、购买
2
3counts_30_active = df.groupby('user_id')['date'].nunique()
4
5labels = pd.merge(labels,counts_30_active,how='left',on='user_id')
6
7labels.rename(columns={'date':'counts_30_active'},inplace=True)
8
9这里pd.nunique()是指返回的是唯一值的个数。
结果如图6所示。
图6 近30天用户行为
近30天用户行为分析属于中长期的用户行为,我们可以依此判断是否需要调整营销策略,类似可以得到短期的7天用户行为分析,观察中短期或一个小周期内,用户的行为是何种情况。
4)最后一次行为距今天数。
分析上次和本次用户行为的时间差值可以实现精确推荐分析,下面我们来看看具体如何实现。
上次浏览距今天数:
1days_browse = df[df['behavior_type']==1].groupby('user_id')['date'].max().apply
2
3(lambda x:(datetime.strptime('2014-12-19','%Y-%m-%d')-x).days)
4
5labels = pd.merge(labels,days_browse,how='left',on='user_id')
6
7labels.rename(columns={'date':'days_browse'},inplace=True)
datetime.strptime('2014-12-19','%Y-%m-%d')-x).days:该部分属于lambda中的函数表达式部分,即计算规则,此处最后取相减后的天数总和。
apply():格式为apply(func,*args,**kwargs),当一个函数的参数存在于一个元组或者一个字典中时,可间接调用这个函数,并将元组或者字典中的参数按照顺序传递给该函数,返回值就是func函数的返回值。相当于循环遍历,起到处理每一条数据的效果。
类似可以生成上次加购、购买距今天数,分析得到用户的活跃情况,如图7所示,如果长时间没有活跃,则需要推送一些内容,或者发放优惠券刺激用户。
图7 最后一次行为距今天情况统计
5)最近两次购买间隔天数。
1df_interval_buy = df[df['behavior_type']==4].groupby(['user_id','date']).item_
2
3 id.count().reset_index()
4
5interval_buy = df_interval_buy.groupby('user_id')['date'].apply
6
7(lambda x:x.sort_values().diff(1).dropna().head(1)).reset_index()
8
9interval_buy['date'] = interval_buy['date'].apply(lambda x : x.days)
10
11interval_buy.drop('level_1',axis=1,inplace=True)
12
13interval_buy.rename(columns={'date':'interval_buy'},inplace=True)
14
15labels = pd.merge(labels,interval_buy,how='left',on='user_id')
用购买间隔数分析用户的购买频率,方便确定用户的消费活跃等级,精准制定营销方式。结果如图8所示。
图8 最近两次购买间隔天数统计
6)是否浏览未下单。
1df_browse_buy=df.loc[(df['behavior_type']==1)|(df['behavior_type']==4),
2
3['user_id','item_id','behavior_type','time']]
4
5browse_not_buy=pd.pivot_table(df_browse_buy,index=['user_id','item_id'],
6
7columns=['behavior_type'],values=['time'],aggfunc=['count'])
8
9browse_not_buy.columns = ['browse','buy']
10
11browse_not_buy.fillna(0,inplace=True)
12
13# 添加了一列browse_not_buy,初始值为0。
14
15browse_not_buy['browse_not_buy'] = 0
16
17# 浏览数>0,购买数=0的数据输出1.
18
19browse_not_buy.loc[(browse_not_buy['browse']>0) & (browse_not_buy['buy']==0),
20
21 'browse_not_buy'] = 1
22
23browse_not_buy=browse_not_buy.groupby('user_id')['browse_not_buy'].sum().reset_
24
25 index()
26
27labels = pd.merge(labels,browse_not_buy,how='left',on='user_id')
28
29labels['browse_not_buy'] = labels['browse_not_buy'].apply(lambda x: '是' if x>0
30
31 else '否')
|:在Python语句中表示或,&表示且。
pd.pivot_table():透视表功能,df_browse_buy为data块,values可以对需要的计算数据进行筛选,aggfunc参数可以设置我们对数据聚合时进行的函数操作。
fillna:会填充NaN数据,返回填充后的结果,inplace=True代表原地填充。
结果如图9所示。
图9 是否浏览未下单情况统计
针对浏览未下单的用户要加大推广力度,可以增加优惠券的发放次数,促进购物。
7)是否加购未下单。
1df_cart_buy=df.loc[(df['behavior_type']==3)|(df['behavior_type']==4),['user_
2
3 id','item_id','behavior_type','time']]
4
5cart_not_buy=pd.pivot_table(df_cart_buy,index=['user_id','item_id'],columns=
6
7 ['behavior_type'],values=['time'],aggfunc=['count'])
8
9cart_not_buy.columns = ['cart','buy']
10
11cart_not_buy.fillna(0,inplace=True)
12
13cart_not_buy['cart_not_buy'] = 0
14
15cart_not_buy.loc[(cart_not_buy['cart']>0) & (cart_not_buy['buy']==0),'cart_not_
16
17 buy'] = 1
18
19cart_not_buy = cart_not_buy.groupby('user_id')['cart_not_buy'].sum().reset_index()
20
21labels = pd.merge(labels,cart_not_buy,how='left',on='user_id')
22
23labels['cart_not_buy'] = labels['cart_not_buy'].apply(lambda x: '是' if x>0
24
25 else '否')
结果如图10所示。
图10 是否加购未下单情况统计
制定营销策略时,要重点注意这部分人群,因为加购未下单的购买转化率是最大的,有成功下单、最大潜力的客户就在这里。
05
构建用户属性标签
1)是否复购用户:
1buy_again = df[df['behavior_type']==4].groupby('user_id')['item_id'].count().
2
3 reset_index()
4
5buy_again.rename(columns={'item_id':'buy_again'},inplace=True)
6
7labels = pd.merge(labels,buy_again,how='left',on='user_id')
8
9labels['buy_again'].fillna(-1,inplace=True)
10
11# 未购买的用户标记为'未购买',有购买未复购的用户标记为'否',有复购的用户标记为'是'
12
13labels['buy_again'] = labels['buy_again'].apply(lambda x: '是' if x>1 else
14
15 '否' if x==1 else '未购买')
结果如图11所示。
图11 是否复购用户统计
2)访问活跃度:
1user_active_level = labels['counts_30_active'].value_counts().sort_index(ascending=
2
3 False)
4
5plt.figure(figsize=(16,9))
6
7user_active_level.plot(title='30天内访问次数与访问人数的关系',fontsize=18)
8
9plt.ylabel('访问人数',fontsize=14)
10
11plt.xlabel('访问次数',fontsize=14)
12
13# 用于显示中文
14
15plt.rcParams["font.sans-serif"] = ['SimHei']
16
17plt.rcParams['axes.unicode_minus'] = False
18
19# 先将user_active_level全部设置成高,再搜索数值<16的部分,设置成低
20
21labels['user_active_level'] = '高'
22
23labels.loc[labels['counts_30_active']<=16,'user_active_level'] = '低'
结果如图12所示。
图12 30天内访问次数与访问人数的关系
value_counts():查看表格某列中有多少个不同值,并计算每个不同值在该列中有多少重复值。
sort_index():按照某一列的大小进行排序,ascending=False是按照从大到小排序。
plt.figure(figsize=(a,b)):创建画板,figsize代表宽为a,高为b的图形,单位为英寸。
plt.ylabel:设置y轴,fontsize是字体大小。
plt.xlabel:设置x轴。
通过图12可以看出,访问次数多的用户比访问次数少的用户数量多,且以15次左右为拐点,因此定义访问次数小于等于16次的用户为低活跃用户,访问次数大于16次的用户定义为高活跃用户,此定义只是从用户的角度出发,工作中当从业务角度定义。访问次数多的访客比访问次数少的访客数量多,与绝大多数的产品访问规律相反,从侧面反映了用户黏性之强。
3)购买活跃度:
1buy_active_level = labels['counts_30_buy'].value_counts().sort_index(ascending=
2
3 False)
4
5plt.figure(figsize=(16,9))
6
7buy_active_level.plot(title='30天内购买次数与购买人数的关系',fontsize=18)
8
9plt.ylabel('购买人数',fontsize=14)
10
11plt.xlabel('购买次数',fontsize=14)
12
13labels['buy_active_level'] = '高'
14
15labels.loc[labels['counts_30_buy']<=14,'buy_active_level'] = '低'
结果如图13所示。
图13 30天内购买次数与购买人数的关系
由图13可知,14次左右是个拐点,因此定义购买次数小于等于14次的用户为低活跃用户,大于14次的用户为高活跃用户。
4)购买的品类是否单一:
1buy_single=df[df['behavior_type']==4].groupby('user_id').item_category.nunique()
2
3.reset_index()
4
5buy_single.rename(columns={'item_category':'buy_single'},inplace=True)
6
7labels = pd.merge(labels,buy_single,how='left',on='user_id')
8
9labels['buy_single'].fillna(-1,inplace=True)
10
11labels['buy_single'] = labels['buy_single'].apply(lambda x: '是' if x>1 else
12
13 '否' if x==1 else '未购买' )
结果如图14所示。
图14 购买品类单一情况统计
了解用户购买的品类有利于构建用户群体行为,比如该群体统一对化妆品消费占比巨大,则该用户群体的主要特征标签之一就是化妆品。
5)用户价值分组(RFM模型):
1last_buy_days = labels['days_buy'].value_counts().sort_index()
2
3plt.figure(figsize=(16,9))
4
5last_buy_days.plot(title='最后一次购买距今天数与购买人数的关系',fontsize=18)
6
7plt.ylabel('购买人数',fontsize=14)
8
9plt.xlabel('距今天数',fontsize=14)
结果如图15所示。
图15 最后购买行为距今天数与购买人数的关系
使用RFM模型分析:
1labels['buy_days_level'] = '高'
2
3labels.loc[labels['days_buy']>8,'buy_days_level'] = '低'
4
5labels['rfm_value'] = labels['buy_active_level'].str.cat(labels['buy_days_level'])
6
7def trans_value(x):
8
9 if x == '高高':
10
11 return '重要价值客户'
12
13 elif x == '低高':
14
15 return '重要深耕客户'
16
17 elif x == '高低':
18
19 return '重要唤回客户'
20
21 else:
22
23 return '即将流失客户'
24
25labels['rfm'] = labels['rfm_value'].apply(trans_value)
26
27# 此处的apply()调用了一个自己定义(def)的函数
28
29labels.drop(['buy_days_level','rfm_value'],axis=1,inplace=True)
30
31labels['rfm'].value_counts()
结果如图16所示。
图16 RFM模型分析结果
str.cat()是指将两个独立的字符串拼接,此处将
'buy_active_level‘和'buy_days_level'拼接。如果要在两个合并的列中间加一个分隔符号,可在cat括号内加:sep='-',用-连接合并内容。
将buy_active_level和buy_days_level组合,形成“高高”或者“高低”等。将两个重要指标合并后,每个user_id进入不同的分类组。RFM模型是衡量客户价值和客户创利能力的重要工具和手段,其中,R(recently):最近一次消费;F(Frequently):消费频率;M(Monetary):消费金额。
对最后输出的用户群体制定不同的营销策略。针对重要价值客户要予以关注并维护;针对重要深耕用户,予以相应的价格刺激,如折扣和捆绑销售等增加用户的购买频率,提高黏性;针对重要唤回用户,要在特定时间点进行刺激,比如进行产品卖点刺激、品牌灌输等,不断加强他们对品牌的认可,提高忠诚度;针对流失客户,在此例中,因其数量占三分之一左右,需进一步分析得出流失原因。
关于作者:刘鹏,教授,清华大学博士,云计算、大数据和人工智能领域的知名专家,南京云创大数据科技股份有限公司总裁、中国大数据应用联盟人工智能专家委员会主任。中国电子学会云计算专家委员会云存储组组长、工业和信息化部云计算研究中心专家。
高中强,人工智能与大数据领域技术专家,有非常深厚的积累,擅长机器学习和自然语言处理,尤其是深度学习,熟悉Tensorflow、PyTorch等深度学习开发框架。曾获“2019年全国大学生数学建模优秀命题人奖”。参与钟南山院士指导新型冠状病毒人工智能预测系统研发项目,与钟南山院士团队共同发表学术论文。
本文摘编自《Python金融数据挖掘与分析实战》,经出版方授权发布。(ISBN:9787111696506)
《Python金融数据挖掘与分析实战》
点击上图了解及购买
推荐语:云创大数据(上市公司)总裁撰写,零基础学会金融数据挖掘,配有案例、视频、代码、数据、习题及答案。
赠书
按以下方式和公众号互动,即有机会获赠以上一本图书!
活动方式:在公众号后台回复“金融数据”参与活动,届时会在参与的小伙伴中抽取1名幸运鹅!
活动时间:截至1月24日20点(周三)开奖,不见不散。
快快拉上你的小伙伴参与进来吧~
让我知道你在看哟☟☟