销售汽车行业偷税单位识别

背景及挖掘目标

企业做假账偷税漏税的行为普遍存在，汽车行业通过“多开发票”、“做双份报表”、“减少支出”等方式进行偷漏税。随着企业偷漏税现在泛滥，也影响国家经济基础。通过数据挖掘能自动识别企业偷漏税行为，提高稽查效率减少经济损失。
汽车销售行业在税收上存在少开发票金额、少记收入，上牌、按揭、保险不入账，不及时确认保修索赔款等情况，导致政府损失大量税收。汽车销售企业的部分经营指标数据能在一定程度上评估企业的偷漏税倾向。样本数据提供了汽车销售行业纳税人的各种属性和是否偷漏税标识，提取纳税人经营特征可以建立偷漏税行为识别模型。

步骤

1 数据读取
数据如下

数据展示

import pandas as pd
data =pd.read_excel('data.xls',index_col=u'纳税人编号')#读取数据
print (data.head())#查看前5个

2 数据探索

前两列数据分布情况

import matplotlib.pyplot as plt#数据探索
plt.rcParams['font.sans-serif']=['SimHei']#图标可识别中文
plt.rcParams['axes.unicode_minus']=False
fig,axes=plt.subplots(1,2)
fig.set_size_inches(12,4)
ax0,ax1=axes.flat
data[u'销售类型'].value_counts().plot(kind='barh',ax=ax0,title=u'销售类型分布情况')
data[u'销售模式'].value_counts().plot(kind='barh',ax=ax1,title=u'销售模式分布情况')
print (data.describe().T)

3 数据预处理，将前两列转换成数字

data[u'输出']=data[u'输出'].map({u'正常':0,u'异常':1})
data[u'销售类型']=data[u'销售类型'].map({u'国产轿车':1,u'进口轿车':2,u'大客车':3,u'卡车及轻卡':4,u'微型面包车':5,u'商用货车':6,u'工程车':7,u'其它':8})
data[u'销售模式']=data[u'销售模式'].map({u'4s店':1,u'一级代理':2,u'二级及二级以下代理':3,u'多品牌直营店':4,u'其它':5})

4 数据划分并按照train:test为4:1划分

#数据划分4:1
from sklearn.cross_validation import train_test_split
p=0.2
data=data.as_matrix()
from random import shuffle
shuffle(data)
train_x,test_x,train_y,test_y=train_test_split(data[:, :14],data[:, 14],test_size=p)
shu
#解决ValueError: Input contains NaN, infinity or a value too large for dtype('float32').
from sklearn.preprocessing import Imputer
train_x = Imputer().fit_transform(train_x)
test_x = Imputer().fit_transform(test_x)

5 决策树模型并输出混淆矩阵

#CART决策树
from sklearn.tree import DecisionTreeClassifier #导入决策树模型
from sklearn.metrics import confusion_matrix #导入混淆矩阵函数
from sklearn.externals import joblib
tree=DecisionTreeClassifier(criterion='entropy',max_depth=3)
tree.fit(train_x,train_y)#训练模型 
#输出混淆矩阵
cm = confusion_matrix(train_y, tree.predict(train_x)) #混淆矩阵
import matplotlib.pyplot as plt #导入作图库
plt.matshow(cm, cmap=plt.cm.Greens) #画混淆矩阵图，配色风格使用cm.Greens，更多风格请参考官网。
plt.colorbar() #颜色标签
for x in range(len(cm)): #数据标签
  for y in range(len(cm)):
    plt.annotate(cm[x,y], xy=(x, y), horizontalalignment='center', verticalalignment='center')
plt.ylabel('True label') #坐标轴标签
plt.xlabel('Predicted label') #坐标轴标签
plt.show() #显示作图结果
#保存模型方法一
tree_file='tree.pkl'
joblib.dump(tree,tree_file)
#保存模型方法二
from sklearn.tree import export_graphviz
export_graphviz(tree,'F:/out')

混淆矩阵

决策树图

6 LM神经网络

from keras.models import Sequential#导入神经网络初始函数
from keras.layers.core import Dense,Activation#导入神经网络层函数及激活函数 
from keras.applications import imagenet_utils
net_file='net.model'
net=Sequential()#建立神经网络
net.add(Dense(10,input_shape=(14,)))#添加输入层（14节点）到隐藏层（10节点）的连接
net.add(Activation('relu'))#设置激活函数
net.add(Dense(1,input_shape=(10,)))#10*1层函数
net.add(Activation('sigmoid'))#激活函数
net.compile(loss='binary_crossentropy',optimizer='adam')#,class_mode="binary"
net.fit(train_x,train_y,nb_epoch=1000,batch_size=10)#训练模型循环一千次
#net.save_weights(net_file)

predict_result=net.predict_classes(train_x).reshape(len(train_x))
#输出混淆矩阵
cm = confusion_matrix(train_y,predict_result) #混淆矩阵
import matplotlib.pyplot as plt #导入作图库
plt.matshow(cm, cmap=plt.cm.Greens) #画混淆矩阵图，配色风格使用cm.Greens，更多风格请参考官网。
plt.colorbar() #颜色标签
for x in range(len(cm)): #数据标签
  for y in range(len(cm)):
    plt.annotate(cm[x,y], xy=(x, y), horizontalalignment='center', verticalalignment='center')
plt.ylabel('True label') #坐标轴标签
plt.xlabel('Predicted label') #坐标轴标签
plt.show() #显示作图结果

LM神经网络模型结果的混淆矩阵

7 结果评价 ROC曲线

#模型评价
from sklearn.metrics import roc_curve#导入roc函数

#LM模型评价

predict_result=net.predict(test_x).reshape(len(test_x))
print(predict_result)
fpr,tpr,thresholds=roc_curve(test_y,predict_result,pos_label=1)
plt.plot(fpr,tpr,linewidth=2,label='ROC of LM')#绘制ROC曲线
plt.xlabel('False positive Rate')
plt.ylabel('True positive Rate')
plt.xlim(0,1.05)
plt.ylim(0,1.05)
plt.legend(loc=4)#设定图例位置
plt.show()


#CART模型评价
fpr,tpr,thresholds=roc_curve(test_y,tree.predict_proba(test_x)[:,1],pos_label=1)
plt.plot(fpr,tpr,linewidth=2,label='ROC of CHRT')#绘制ROC曲线
plt.xlabel('False positive Rate')
plt.ylabel('True positive Rate')
plt.xlim(0,1.05)
plt.ylim(0,1.05)
plt.legend(loc=4)#设定图例位置
plt.show()

print("Train score:%f"%(tree.score(train_x,train_y)))
print("test score:%f"%(tree.score(test_x,test_y)))

两个模型的ROC曲线，面积越大表现越好

总结：感谢简杨君的参考，在参考中也遇到很多问题，一步一步来，完成了第一个实验，参考如下 http://www.jianshu.com/p/5dbb818cd7b5