Logistic回归建模—某银行在降低贷款拖欠率的数据

一、Logistic回归模型：

二、Logistic回归建模步骤

1. 根据分析目的设置指标变量（因变量和自变量），根据收集到的数据进行筛选

2. 用ln(p/1-p)和自变量x₁...x_p列出线性回归方程，估计出模型中的回归系数

3. 进行模型检验。模型有效性检验的函数有很多，比如正确率、混淆矩阵、ROC曲线、KS值

4. 模型应用。

三、对某银行在降低贷款拖欠率的数据进行建模

 

源代码为：

import pandas as pd  
filename=r'..\data\bankloan.xls'  #导入数据路径
data=pd.read_excel(filename)  #读取该excel文件
x=data.iloc[:,:8].as_matrix()  #选取数据集中0-7行的数据，形成一个矩阵
y=data.iloc[:,8].as_matrix()

from sklearn.linear_model import LogisticRegression as LR
from sklearn.linear_model import RandomizedLogisticRegression as RLR

rlr=RLR()
rlr.fit(x,y) #训练模型
rlr.get_support() #获取特征筛选结果
print(u'通过逻辑回归模型筛选特征结束。')
print(u'有效特征为：%s'%','.join(data.columns[rlr.get_support()]))

x=data[data.columns[rlr.get_support()]].as_matrix() #筛选好的特征
lr=LR()
lr.fit(x,y)
print(u'逻辑回归模型训练结束')
print(u'模型的平均正确率：%s'%lr.score(x,y))

机器运行结果报错：

IndexError: boolean index did not match indexed array along dimension 0; dimension is 9 but corresponding boolean dimension is 8

解决办法：建立一个新的矩阵data2，去掉最后一行，使维数匹配。

修改后代码如下：

import pandas as pd  
filename=r'..\data\bankloan.xls' 
data=pd.read_excel(filename)
x=data.iloc[:,:8].as_matrix()
y=data.iloc[:,8].as_matrix()

from sklearn.linear_model import LogisticRegression as LR
from sklearn.linear_model import RandomizedLogisticRegression as RLR

rlr=RLR()
rlr.fit(x,y)
rlr.get_support()
print(u'通过逻辑回归模型筛选特征结束。')
data2=data.drop(u'违约',1)
print(u'有效特征为：%s'%','.join(data2.columns[rlr.get_support()]))

x=data[data2.columns[rlr.get_support()]].as_matrix()
lr=LR()
lr.fit(x,y)
print(u'逻辑回归模型训练结束')
print(u'模型的平均正确率：%s'%lr.score(x,y))

机器运行结果：