為了挑選並構造出對目標變數有較高預測力的自變數，需要對變數進行WOE編碼，通過IV值的看變數的貢獻。

1、WOE(weight of Evidence 證據權重)

    1）解釋及公式

    WOE是對原始自變數的一種編碼形式。

    要對一個變數進行WOE編碼，需要首先把這個變數進行分組處理/離散化處理（等寬切割，等高切割，或者利用決策樹來切割）。分組後，對於第i組，WOE的計算公式如下：

    其中：pyi為壞樣本佔所有壞樣本的比例，py0好樣本佔所有好樣本的比例；B為壞樣本總數，Bi為變數i對應的壞樣本個數，G為好樣本總數，Gi為變數i對應的好樣本個數 ；

    注：將模型目標變數y為1記為違約使用者（壞樣本），對於目標變數為0記為正常使用者（好樣本）

2）直觀字面理解：

    WOE表示的實際上是“當前分組中壞客戶佔所有壞客戶的比例”和“當前分組中好客戶佔所

有壞客戶的比例”的差異。轉化公式以後，也可以理解為：當前這個組中壞客戶和好客戶的比值，和所有樣本中這個比值的差異。這個差異為這兩個比值的比值，再取對數來表示的。

    WOE越大，這種差異越大，這個分組裡的樣本壞樣本可能性就越大，WOE越小，差異越小，這個分組裡的壞樣本可能性就越小。

3）WOE計算案例：

以年齡為某個自變數，由於年齡是連續型自變數，需要對其進行離散化處理，假設離散化分為5組。#bad和#good表示在這五組年齡中好樣本和壞樣本的數量分佈。 

• 當前分組中，壞樣本比例越大，WOE值越大

• 當前分組WOE的正負，由當前分組壞樣本和好樣本的比例，與樣本整體壞樣本和好樣本的比例的大小關係決定，當前分組的比例小於樣本整體比例時，WOE為負，當前分組的比例大於整體比例時，WOE為正，當前分組的比例和整體比例相等時，WOE為0。

• WOE的取值範圍是全體實數。

    WOE其實描述了變數當前這個分組，對判斷個體是否屬於壞樣本所起到影響方向和大小。當WOE為正時，變數當前取值對判斷個體是否會響應起到的正向的影響，當WOE為負時，起到了負向影響。而WOE值的大小，則是這個影響的大小的體現。

4）WOE轉化優勢：提升模型的預測效果，提高模型的可理解性。

• 標準化的功能。

    WOE編碼之後，自變數其實具備了某種標準化的性質，也就是說，自變數內部的各個取值之間都可以直接進行比較（WOE之間的比較）

• 異常值處理。

一些極值變數，可以通過分組的WOE，變為非異常值

• 檢查變數WOE後與違約概率的關係

一般篩選的變數WOE與違約概率都是單調的，如果出現U型，或者其他曲線形狀，則需要重新看下變數是否有問題。

• 核查WOE變數模型的變數係數出現負值。

    如果最終模型的出來的係數出現負值，需要考慮是否出現了多重共線性的影響，或者變數計算邏輯問題。

2、IV（Information Value）資訊價值

1）為什麼要用IV

    在用邏輯迴歸、決策樹等構建分類模型時，經常需要對自變數進行篩選。比如我們有200個候選自變數，通常情況下，不會直接把200個變數直接放到模型中去進行擬合訓練，而是會用一些方法，從這200個自變數中挑選一些出來，放進模型，形成入模變數列表。

    挑選入模變數過程比較複雜，需要考慮的因素很多，比如：變數的預測能力，變數之間的相關性，變數的簡單性（容易生成和使用），變數的強壯性（不容易被繞過），變數在業務上的可解釋性（被挑戰時可以解釋的通）等等。但是，其中最主要和最直接的衡量標準是變數的預測能力。

    IV就是用來衡量自變數的預測能力。類似的指標還有資訊增益、基尼係數等等。

2）如何理解IV

    假設在一個分類問題中，目標變數值為1，0。對於一個待預測的個體A，要判斷A屬於1還是0，需要知道一寫特定資訊，假設這個資訊總量是I，而這些所需要的資訊，就蘊含在所有的自變數x1，x2，x3，……，xn中，那麼，對於其中一個變數xi來說，其蘊含的資訊越多，那麼它對於判斷A屬於0還是1的貢獻就越大，xi的資訊價值就越大，xi的IV就越大，它就越應該進入到入模變數列表中。

3）IV的計算公式

IV的計算基於WOE，可以看成對WOE的加權求和

分組i的IV值計算：

總體的IV：

4）IV和WOE的差別

    IV和WOE的差別，就在於IV在WOE基礎上乘以一個權重（py1-py0），這個權重也是變數篩選考慮使用IV而非WOE去篩選變數的重要。

• woe的取值為實數，含有負數，當我們衡量一個變數的預測能力時，使用的指標的評價一般為正數，比如woe值為-0.5的時候，就不知道如何評價這個指標的好壞。而且總體的WOE值，需要單獨設立公式，而不是簡單的各個組的WOE值相加。

• 而iv值，因為有這個（py1-py0）權重係數，保證了變數每個分組的結果都是非負數，可以驗證一下，當一個分組的WOE是正數時，權重係數也是正數，當一個分組的WOE是負數時，權重也是負數，而當一個分組的WOE=0時，權重係數也是0。

• IV值避免了一個組樣本數很小，但Bi/Gi很大，從而WOE很大的情況。這種情況出現時，這組樣本其實對整體的解釋能力是很弱的，比如舉個極端的例子，比如py1、py0均小於0.001，但Bi/Gi很大，比如0.9的情況，這時WOE值很高，但IV值會很小。

5）IV計算案例

• 對於變數的一個分組，這個分組的壞樣本和好樣本的比例與樣本整體壞樣本和好樣本的比例相差越大，IV值越大，否則，IV值越小；

• 極端情況下，當前分組的好樣本和壞樣本的比例和樣本整體的壞樣本和好樣本的比例相等時，IV值為0；

• IV值的取值範圍是[0,+∞)，且，噹噹前分組中只包含好樣本或壞樣本時，IV = +∞，此種情況無任何意義

IV值為+∞處理：

IV其實有一個缺點，就是不能自動處理變數的分組中出現響應比例為0或100%的情況。遇到壞樣本比例為0或者100%的情況，建議如下：

• 如果可能，直接把這個分組做成一個規則，作為模型的前置條件或補充條件；

• 重新對變數進行離散化或分組，使每個分組的響應比例都不為0且不為100%，尤其是當一個分組個體數很小時（比如小於100個），強烈建議這樣做，因為本身把一個分組個體數弄得很小就不是太合理。

• 如果上面兩種方法都無法使用，建議人工把該分組的響應數和非響應的數量進行一定的調整。如果響應數原本為0，可以人工調整響應數為1，如果非響應數原本為0，可以人工調整非響應數為1.

6）IV資訊量大小與指標判別力有一個經驗的規則：

• 若IV資訊量取值小於0.02，認為該指標對因變數沒有預測能力，應該被剔除；

• 若IV資訊量取值在0.02與0.1之間，認為該指標對因變數有較弱的預測能力；

• 若IV資訊量取值在0.1與0.3之間，認為該指標對因變數的預測能力一般；

• 若IV資訊量取值大於0.3，認為該指標對因變數有較強的預測能力。

• 實際應用時，可以保留IV值大於0.1的指標。

網路參考文章：

http://blog.csdn.net/kevin7658/article/details/50780391

http://blog.sina.com.cn/s/blog_8813a3ae0102uyo3.html

    分組變數常規的處理方式除了WOE，還有做dummy變數（啞編碼）：

3、啞編碼

    dummy變數是比較順其自然的操作，例如某個自變數m有3種取值分別為m1,m2,m3，那麼可以構造兩個dummy變數M1、M2：當m取m1時，M1取1而M2取0；當m取m2時，M1取0而M2取1；當m取m3時，M1取0且M2取0。這樣，M1和M2的取值就確定了m的取值。之所以不構造M3變數，是基於資訊冗餘和多重共線性之類的考慮。但是，構造dummy變數也存在一些缺點，例如無法對自變數的每一個取值計算其信用得分，並且迴歸模型篩選變數時可能出現某個自變數被部分地捨棄的情況。