零基础入门数据挖掘 - 二手车交易价格预测--EDA

零基础入门数据挖掘 - 二手车交易价格预测--EDA

  • EDA背景
  • 代码及讲解

EDA背景

  • 赛题链接

零基础入门数据挖掘 - 二手车交易价格预测

  • EDA目的
  1. 熟悉数据集,了解数据集,对数据集进行验证
  2. 了解变量间的相互关系以及变量与预测值之间的存在关系
  3. 为下一步的数据处理以及特征工程奠定基础

代码及讲解

  • 引入数据科学以及可视化库
#coding:utf-8
#导入warnings包,利用过滤器来实现忽略警告语句。
import warnings
warnings.filterwarnings('ignore')

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
import missingno as msno
  • 读取数据
## 1) 载入训练集和测试集;
path = './datalab/231784/'
Train_data = pd.read_csv(path+'used_car_train_20200313.csv', sep=' ')
Test_data = pd.read_csv(path+'used_car_testA_20200313.csv', sep=' ')
  • 特征列
    name - 汽车编码
    regDate - 汽车注册时间
    model - 车型编码
    brand - 品牌
    bodyType - 车身类型
    fuelType - 燃油类型
    gearbox - 变速箱
    power - 汽车功率
    kilometer - 汽车行驶公里
    notRepairedDamage - 汽车有尚未修复的损坏
    regionCode - 看车地区编码
    seller - 销售方
    offerType - 报价类型
    creatDate - 广告发布时间
    price - 汽车价格
    v_0’, ‘v_1’, ‘v_2’, ‘v_3’, ‘v_4’, ‘v_5’, ‘v_6’, ‘v_7’, ‘v_8’, ‘v_9’, ‘v_10’, ‘v_11’, ‘v_12’, ‘v_13’,‘v_14’ 匿名特征,包含v0-14在内15个匿名特征
  • 观察数据
Train_data.head().append(Train_data.tail())

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第1张图片

Train_data.shape

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第2张图片

  • 使用describe进行查看数据
Train_data.describe()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第3张图片

Train_data.info()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第4张图片

  • 查看异常值与缺失值
Train_data.isnull().sum()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第5张图片

# nan可视化
missing = Train_data.isnull().sum()
missing = missing[missing > 0]
missing.sort_values(inplace=True)
missing.plot.bar()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第6张图片

  • 异常值
Train_data['notRepairedDamage'].value_counts()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第7张图片

Train_data['notRepairedDamage'].replace('-', np.nan, inplace=True)
  • 两个倾斜特别严重的特征值
Train_data["seller"].value_counts()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第8张图片

Train_data["offerType"].value_counts()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第9张图片

  • 预测值price的分布
## 1) 总体分布概况(无界约翰逊分布等)
import scipy.stats as st
y = Train_data['price']
plt.figure(1); plt.title('Johnson SU')
sns.distplot(y, kde=False, fit=st.johnsonsu)
plt.figure(2); plt.title('Normal')
sns.distplot(y, kde=False, fit=st.norm)
plt.figure(3); plt.title('Log Normal')
sns.distplot(y, kde=False, fit=st.lognorm)

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第10张图片
零基础入门数据挖掘 - 二手车交易价格预测--EDA_第11张图片
结论: 价格不服从正态分布,所以在进行回归之前,它必须进行转换。虽然对数变换做得很好,但最佳拟合是无界约翰逊分布

  • 查看预测值price的具体频数
## 2) 查看预测值的具体频数
plt.hist(Train_data['price'], orientation = 'vertical',histtype = 'bar', color ='red')
plt.show()

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第12张图片
结论: 大于20000得值极少,其实这里也可以把这些当作特殊得值(异常值)直接用填充或者删掉

  • 分类特征与数值特征
    这个区别方式适用于没有直接label coding的数据,这里不适用,需要人为根据实际含义来区分
numeric_features = ['power', 'kilometer', 'v_0', 'v_1', 'v_2', 'v_3', 'v_4', 'v_5', 'v_6', 'v_7', 'v_8', 'v_9', 'v_10', 'v_11', 'v_12', 'v_13','v_14' ]

categorical_features = ['name', 'model', 'brand', 'bodyType', 'fuelType', 'gearbox', 'notRepairedDamage', 'regionCode',]
  • 数值特征之间的相关性
f , ax = plt.subplots(figsize = (7, 7))
plt.title('Correlation of Numeric Features with Price',y=1,size=16)
sns.heatmap(correlation,square = True,  vmax=0.8)

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第13张图片

  • 数值特征的分布
## 3) 每个数字特征得分布可视化
f = pd.melt(Train_data, value_vars=numeric_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False)
g = g.map(sns.distplot, "value")

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第14张图片
零基础入门数据挖掘 - 二手车交易价格预测--EDA_第15张图片零基础入门数据挖掘 - 二手车交易价格预测--EDA_第16张图片零基础入门数据挖掘 - 二手车交易价格预测--EDA_第17张图片零基础入门数据挖掘 - 二手车交易价格预测--EDA_第18张图片
结论: 可以看出匿名特征相对分布均匀

  • 多变量之间回归关系
## 5) 多变量互相回归关系可视化
fig, ((ax1, ax2), (ax3, ax4), (ax5, ax6), (ax7, ax8), (ax9, ax10)) = plt.subplots(nrows=5, ncols=2, figsize=(24, 20))
# ['v_12', 'v_8' , 'v_0', 'power', 'v_5',  'v_2', 'v_6', 'v_1', 'v_14']
v_12_scatter_plot = pd.concat([Y_train,Train_data['v_12']],axis = 1)
sns.regplot(x='v_12',y = 'price', data = v_12_scatter_plot,scatter= True, fit_reg=True, ax=ax1)

v_8_scatter_plot = pd.concat([Y_train,Train_data['v_8']],axis = 1)
sns.regplot(x='v_8',y = 'price',data = v_8_scatter_plot,scatter= True, fit_reg=True, ax=ax2)

v_0_scatter_plot = pd.concat([Y_train,Train_data['v_0']],axis = 1)
sns.regplot(x='v_0',y = 'price',data = v_0_scatter_plot,scatter= True, fit_reg=True, ax=ax3)

power_scatter_plot = pd.concat([Y_train,Train_data['power']],axis = 1)
sns.regplot(x='power',y = 'price',data = power_scatter_plot,scatter= True, fit_reg=True, ax=ax4)

v_5_scatter_plot = pd.concat([Y_train,Train_data['v_5']],axis = 1)
sns.regplot(x='v_5',y = 'price',data = v_5_scatter_plot,scatter= True, fit_reg=True, ax=ax5)

v_2_scatter_plot = pd.concat([Y_train,Train_data['v_2']],axis = 1)
sns.regplot(x='v_2',y = 'price',data = v_2_scatter_plot,scatter= True, fit_reg=True, ax=ax6)

v_6_scatter_plot = pd.concat([Y_train,Train_data['v_6']],axis = 1)
sns.regplot(x='v_6',y = 'price',data = v_6_scatter_plot,scatter= True, fit_reg=True, ax=ax7)

v_1_scatter_plot = pd.concat([Y_train,Train_data['v_1']],axis = 1)
sns.regplot(x='v_1',y = 'price',data = v_1_scatter_plot,scatter= True, fit_reg=True, ax=ax8)

v_14_scatter_plot = pd.concat([Y_train,Train_data['v_14']],axis = 1)
sns.regplot(x='v_14',y = 'price',data = v_14_scatter_plot,scatter= True, fit_reg=True, ax=ax9)

v_13_scatter_plot = pd.concat([Y_train,Train_data['v_13']],axis = 1)
sns.regplot(x='v_13',y = 'price',data = v_13_scatter_plot,scatter= True, fit_reg=True, ax=ax10)

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第19张图片
零基础入门数据挖掘 - 二手车交易价格预测--EDA_第20张图片

  • 类别特征箱型图
类别特征箱形图可视化

# 因为 name和 regionCode的类别太稀疏了,这里我们把不稀疏的几类画一下
categorical_features = ['model',
 'brand',
 'bodyType',
 'fuelType',
 'gearbox',
 'notRepairedDamage']
for c in categorical_features:
    Train_data[c] = Train_data[c].astype('category')
    if Train_data[c].isnull().any():
        Train_data[c] = Train_data[c].cat.add_categories(['MISSING'])
        Train_data[c] = Train_data[c].fillna('MISSING')

def boxplot(x, y, **kwargs):
    sns.boxplot(x=x, y=y)
    x=plt.xticks(rotation=90)

f = pd.melt(Train_data, id_vars=['price'], value_vars=categorical_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False, size=5)
g = g.map(boxplot, "value", "price")

零基础入门数据挖掘 - 二手车交易价格预测--EDA_第21张图片
零基础入门数据挖掘 - 二手车交易价格预测--EDA_第22张图片零基础入门数据挖掘 - 二手车交易价格预测--EDA_第23张图片

本文内容均来自 链接: Datawhale 零基础入门数据挖掘-Task2 数据分析.

你可能感兴趣的:(EDA,数据挖掘,数据分析)