变量选取

变量选取

数据挖掘模型中的IV和WOE详解
我们在用逻辑回归、决策树等模型方法构建分类模型时，经常需要对自变量进行筛选。比如我们有200个候选自变量，通常情况下，不会直接把200个变量直接放到模型中去进行拟合训练，而是会用一些方法，从这200个自变量中挑选一些出来，放进模型，形成入模变量列表。那么我们怎么去挑选入模变量呢？
挑选入模变量过程是个比较复杂的过程，需要考虑的因素很多，比如：变量的预测能力，变量之间的相关性，变量的简单性（容易生成和使用），变量的强壮性（不容易被绕过），变量在业务上的可解释性（被挑战时可以解释的通）等等。但是，其中最主要和最直接的衡量标准是变量的预测能力。
“变量的预测能力”这个说法很笼统，很主观，非量化，在筛选变量的时候我们总不能说：“我觉得这个变量预测能力很强，所以他要进入模型”吧？我们需要一些具体的量化指标来衡量每自变量的预测能力，并根据这些量化指标的大小，来确定哪些变量进入模型。IV就是这样一种指标，他可以用来衡量自变量的预测能力。类似的指标还有信息增益、基尼系数等等。

1. 在风险建模的过程中，变量选择可以具体细化为单变量变量筛选 (Univariate Variable Selection）和多变量变量筛选 (Multivariate Variable Selection)。多变量变量筛选一般会利用Stepwise算法在变量池中选取最优变量。 而单变量筛选，或者说单变量分析，是通过比较指标分箱和对应分箱的违约概率来确定指标是否符合经济意义。
2. 具体的单变量分析方法有很多种， 如我在《信用评级建模中的数据清洗与变量选择》中介绍的的AR值分析、《信用评分模型中应不应该包括“歧视变量”》中的 好坏比分析（Goods/Bads）都可以看作单变量分析的具体体现。 在本文，我会介绍另一种常见的单变量分析方法：WoE分析。
3. 这三种方法，本质的方法论都是一致的：去比较变量分箱和违约水平的相关关系。一般来讲，正向指标 （如公司评级模型中的利润率，零售评级模型中的抵押品价值）要和分箱内违约率呈反向关系， 反向指标要同分箱内违约率呈正向关系。当然也有特殊的U型指标，这里不再详述，详情请见《信用评级建模中的数据清洗与变量选择》中的介绍。但这三者不同的是其中分箱内代表违约水平的指标，在不同的方法中指标计算有所不同（AR值/好坏比/WoE）