数据挖掘模型中的IV和WOE详解

《数据挖掘模型中的IV和WOE详解》由会员分享，可在线阅读，更多相关《数据挖掘模型中的IV和WOE详解（11页珍藏版）》请在金锄头文库上搜索。

1、数据挖掘模型中的IV和WOE详解标签：IVWOE信息价值证据权重数据挖掘模型2016-03-02 15:36 28747人阅读 评论(8)收藏 举报=分类：数据挖掘模型（7）f目录()+|版权声明：本文为博主原创文章，未经博主允许不得转载。1.IV的用途IV的全称是Informationvalue，中文意思是信息价值，或者信息量。我们在用逻辑回归、决策树等模型方法构建分类模型时，经常需要对自变量进行筛选。比如我们 有200个候选自变量，通常情况下，不会直接把200个变量直接放到模型中去进行拟合训练， 而是会用一些方法，从这200个自变量中挑选一些出来，放进模型，形成入模变量列表。那么 我们怎么

2、去挑选入模变量呢？挑选入模变量过程是个比较复杂的过程，需要考虑的因素很多，比如：变量的预测能力，变量之 间的相关性，变量的简单性（容易生成和使用），变量的强壮性（不容易被绕过），变量在业务 上的可解释性（被挑战时可以解释的通）等等。但是，其中最主要和最直接的衡量标准是变量的 预测能力。变量的预测能力这个说法很笼统，很主观，非量化，在筛选变量的时候我们总不能说：我 觉得这个变量预测能力很强，所以他要进入模型吧？我们需要一些具体的量化指标来衡量每自 变量的预测能力，并根据这些量化指标的大小，来确定哪些变量进入模型。IV就是这样一种指 标，他可以用来衡量自变量的预测能力。类似的指标还有信息增益、基尼

3、系数等等。2.对IV的直观理解从直观逻辑上大体可以这样理解用IV去衡量变量预测能力这件事情：我们假设在一个分类 问题中，目标变量的类别有两类：Y1，Y2。对于一个待预测的个体A，要判断A属于Y1还是 Y2，我们是需要一定的信息的，假设这个信息总量是【，而这些所需要的信息，就蕴含在所有的自变量C1 , C2 , C3 Cn中，那么，对于其中的一个变量Ci来说，其蕴含的信息越多，那么它对于判断A属于Y1还是Y2的贡献就越大，Ci的信息价值就越大，Ci的IV就越大，它 就越应该进入到入模变量列表中。3.IV的计算前面我们从感性角度和逻辑层面对IV进行了解释和描述，那么回到数学层面，对于一个待评估 变

4、量，他的IV值究竟如何计算呢？为了介绍IV的计算方法，我们首先需要认识和理解另一个概 念WOE，因为IV的计算是以WOE为基础的。3.1WOEWOE的全称是WeightofEvidence，即证据权重。WOE是对原始自变量的一种编码形式。要对一个变量进行WOE编码，需要首先把这个变量进行分组处理（也叫离散化、分箱等等，说 的都是一个意思）。分组后，对于第i组，WOE的计算公式如下：其中，pyi是这个组中响应客户（风险模型中，对应的是违约客户，总之，指的是模型中预测变 量取值为是或者说1的个体）占所有样本中所有响应客户的比例，pni是这个组中未响应客 户占样本中所有未响应客户的比例，#yi是这个

5、组中响应客户的数量，#ni是这个组中未响应客 户的数量，#yT是样本中所有响应客户的数量，#nT是样本中所有未响应客户的数量。从这个公式中我们可以体会到，WOE表示的实际上是当前分组中响应客户占所有响应客户的 比例和当前分组中没有响应的客户占所有没有响应的客户的比例的差异。对这个公式做一个简单变换，可以得到：变换以后我们可以看出，WOE也可以这么理解，他表示的是当前这个组中响应的客户和未响应 客户的比值，和所有样本中这个比值的差异。这个差异是用这两个比值的比值，再取对数来表示 的。WOE越大，这种差异越大，这个分组里的样本响应的可能性就越大，WOE越小，差异越 小，这个分组里的样本响应的可能性

6、就越小。关于WOE编码所表示的意义，大家可以自己再好好体会一下。3.2 IV的计算公式算-有了前面的介绍，我们可以正式给出IV的计算公式。对于一个分组后的变量，第i组的WOE前面已经介绍过，是这样计算的：同样，对于分组i，也会有一个对应的IV值，计算公式如下：有了一个变量各分组的IV值，我们就可以计算整个变量的IV值，方法很简单，就是把各分组的IV相加:其中，n为变量分组个数。算-3.3用实例介绍IV的计算和使用下面我们通过一个实例来讲解一下IV的使用方式。3.3.1实例假设我们需要构建一个预测模型这个模型是为了预测公司的客户集合中的每个客户对于我们的 某项营销活动是否能够响应，或者说我们要预

7、测的是客户对我们的这项营销活动响应的可能性有 多大。假设我们已经从公司客户列表中随机抽取了 100000个客户进行了营销活动测试，收集了 这些客户的响应结果，作为我们的建模数据集，其中响应的客户有10000个。另外假设我们也 已经提取到了这些客户的一些变量，作为我们模型的候选变量集，这些变量包括以下这些(实际 情况中，我们拥有的变量可能比这些多得多，这里列出的变量仅仅是为了说明我们的问题)：最近一个月是否有购买；最近一次购买金额；最近一笔购买的商品类别；是否是公司VIP客户；假设，我们已经对这些变量进行了离散化，统计的结果如下面几张表所示。(1) 最近一个月是否有过购买：(2) 最近一次购买金

8、额：(3) 最近一笔购买的商品类别：(4) 是否是公司VIP客户：3.3.2 计算 WOE 和 IV我们以其中的一个变量最近一次购买金额变量为例：我们把这个变量离散化为了 4个分段：100元，100,200)，200,500)， = 500元。首先， 根据WOE计算公式，这四个分段的WOE分别为：插播一段，从上面的计算结果中我们可以看一下WOE的基本特点：当前分组中，响应的比例越大，WOE值越大；当前分组WOE的正负，由当前分组响应和未响应的比例，与样本整体响应和未响应 的比例的大小关系决定，当前分组的比例小于样本整体比例时，WOE为负，当前分 组的比例大于整体比例时，WOE为正，当前分组的比

9、例和整体比例相等时，WOE 为0。 WOE的取值范围是全体实数。我们进一步理解一下WOE，会发现，WOE其实描述了变量当前这个分组，对判断个体是否会 响应(或者说属于哪个类)所起到影响方向和大小，当WOE为正时，变量当前取值对判断个体 是否会响应起到的正向的影响，当WOE为负时，起到了负向影响。而WOE值的大小，则是这 个影响的大小的体现。好，回到正题，计算完WOE，我们分别计算四个分组的IV值：再插播一段，从上面IV的计算结果我们可以看出IV的以下特点：对于变量的一个分组，这个分组的响应和未响应的比例与样本整体响应和未响应的比 例相差越大，IV值越大，否则，IV值越小；极端情况下，当前分组的

10、响应和未响应的比例和样本整体的响应和未响应的比例相等 时，IV值为0； IV值的取值范围是0,+8），且，当当前分组中只包含响应客户或者未响应客户时， IV=+8。OK，再次回到正题。最后，我们计算变量总IV值:3.3.3 IV的比较和变量预测能力的排序我们已经计算了四个变量中其中一个的WOE和IV值。另外三个的计算过程我们不再详细的说 明，直接给出IV结果。这四个变量IV排序结果是这样的:是否是公司VIP客户最近一笔购买的商品类别最近一次购 买金额最近一个月是否有过购买。我们发现是否是公司VIP客户是预测能力最高的变量，最近一个月是否有过购买”是预测能力最低的变量。如果我们需要在这四个变量中

11、去挑选变量，就可以根据IV从高到低去挑选了。4.关于IV和WOE的进一步思考4.1为什么用IV而不是直接用WOE从上面的内容来看，变量各分组的WOE和IV都隐含着这个分组对目标变量的预测能力这样的 意义。那我们为什么不直接用WOE相加或者绝对值相加作为衡量一个变量整体预测能力的指标 呢？并且，从计算公式来看，对于变量的一个分组，IV是WOE乘以这个分组响应占比和未响应占 比的差。而一个变量的IV等于各分组IV的和。如果愿意，我们同样也能用WOE构造出一个这 样的一个和出来，我们只需要把变量各个分组的WOE和取绝对值再相加，即（取绝对值是因为 WOE可正可负，如果不取绝对值，则会把变量的区分度通

12、过正负抵消的方式抵消掉）：那么我们为什么不直接用这个WOE绝对值的加和来衡量一个变量整体预测能力的好坏，而是要 用WOE处理后的IV呢。 我们这里给出两个原因。IV和WOE的差别在于IV在WOE基础上乘以的那个Ul. - G提， 我们暂且用pyn来代表这个值。第一个原因，当我们衡量一个变量的预测能力时，我们所使用的指标值不应该是负数，否则，说 一个变量的预测能力的指标是-2.3，听起来很别扭。从这个角度讲，乘以pyn这个系数，保证 了变量每个分组的结果都是非负数，你可以验证一下，当一个分组的WOE是正数时，pyn也是 正数，当一个分组的WOE是负数时，pyn也是负数，而当一个分组的WOE=0时

13、，pyn也是0。WOE = I WOE11当然，上面的原因不是最主要的，因为其实我们上面提到的这个指标也可以完全避免负数的出现。更主要的原因，也就是第二个原因是，乘以pyn后，体现出了变量当前分组中个体的数量占整 体个体数量的比例，对变量预测能力的影响。怎么理解这句话呢？我们还是举个例子。假设我们上面所说的营销响应模型中，还有一个变量A，其取值只有两个：0,1，数据如下：我们从上表可以看出，当变量A取值1时，其响应比例达到了 90%，非常的高，但是我们能否 说变量A的预测能力非常强呢？不能。为什么呢？原因就在于，A取1时，响应比例虽然很高， 但这个分组的客户数太少了，占的比例太低了。虽然，如果

14、一个客户在A这个变量上取1，那他 有90%的响应可能性，但是一个客户变量A取1的可能性本身就非常的低。所以，对于样本整 体来说，变量的预测能力并没有那么强。我们分别看一下变量各分组和整体的WOE，IV。从这个表我们可以看到，变量取1时，响应比达到90%，对应的WOE很高，但对应的IV却很 低，原因就在于IV在WOE的前面乘以了一个系数、二0 ，而这个系数很好的考虑了这 个分组中样本占整体样本的比例，比例越低，这个分组对变量整体预测能力的贡献越低。相反， 如果直接用WOE的绝对值加和，会得到一个很高的指标，这是不合理的。4.2 的极端情况以及处理方式IV依赖WOE，并且IV是一个很好的衡量自变量

15、对目标变量影响程度的指标。但是，使用过程 中应该注意一个问题：变量的任何分组中，不应该出现响应数二0或非响应数二0的情况。原因很简单，当变量一个分组中，响应数二0时，此时对应的IVi为+8。而当变量一个分组中，没有响应的数量=0时，此时的IVi为+8。IVi无论等于负无穷还是正无穷，都是没有意义的。由上述问题我们可以看到，使用IV其实有一个缺点，就是不能自动处理变量的分组中出现响应 比例为0或100%的情况。那么，遇到响应比例为0或者100%的情况，我们应该怎么做呢？建 议如下：(1 )如果可能，直接把这个分组做成一个规则，作为模型的前置条件或补充条件；(2 )重新对变量进行离散化或分组，使每个分组的响应比例都不为0且不为100%，尤其是当 一个分组个体数很小时(比如小于100个)，强烈建议这样做，因为本身把一个分组个体数弄 得很小就不是太合理。(3)如果上面两种方法都无法使用，建议人工把该分组的响应数和非响应的数量进行一定的调 整。如果响应数原本为0，可以人工调整响应数为1 ,如果非响应数原本为0，可以人工调整非 响应数为1.评分卡模型剖析之一(woe、IV、ROC、信息熵)算法 python3m 12 个月前(09-26) 1287C信用评分卡模型在国外是一种成熟的预测方法尤其在