計算廣告CTR預估系列(一)–DeepFM理論

本文首發於公眾號： 機器學習薦貨情報局

認真閱讀完本文，抓住DeepFM的理論核心不成問題！
配合《計算廣告CTR預估系列(二)–DeepFM實踐》食用更佳！敬請期待。。。

DeepFM

1. CTR預估

CTR預估資料特點：
1. 輸入中包含類別型和連續型資料。類別型資料需要one-hot,連續型資料可以先離散化再one-hot，也可以直接保留原值
2. 維度非常高
3. 資料非常稀疏
4. 特徵按照Field分組

CTR預估重點在於學習組合特徵。注意，組合特徵包括二階、三階甚至更高階的，階數越高越複雜，越不容易學習。Google的論文研究得出結論：高階和低階的組合特徵都非常重要，同時學習到這兩種組合特徵的效能要比只考慮其中一種的效能要好。

那麼關鍵問題轉化成：如何高效的提取這些組合特徵。一種辦法就是引入領域知識人工進行特徵工程。這樣做的弊端是高階組合特徵非常難提取，會耗費極大的人力。而且，有些組合特徵是隱藏在資料中的，即使是專家也不一定能提取出來，比如著名的“尿布與啤酒”問題。

在DeepFM提出之前，已有LR，FM，FFM，FNN，PNN（以及三種變體：IPNN,OPNN,PNN*）,Wide&Deep模型，這些模型在CTR或者是推薦系統中被廣泛使用。

2. 模型演進歷史

2.1 線性模型

最開始CTR或者是推薦系統領域，一些線性模型取得了不錯的效果。比如：LR，FTRL。線性模型有個致命的缺點：無法提取高階的組合特徵

LR最大的缺點就是無法組合特徵，依賴於人工的特徵組合，這也直接使得它表達能力受限，基本上只能處理線性可分或近似線性可分的問題。

2.2 FM模型

線性模型差強人意，直接導致了FM模型應運而生（在Kaggle上打比賽提出來的，取得了第一名的成績）。FM通過隱向量latent vector做內積來表示組合特徵，從理論上解決了低階和高階組合特徵提取的問題。但是實際應用中受限於計算複雜度，一般也就只考慮到2階交叉特徵。

後面又進行了改進，提出了FFM，增加了Field的概念。

2.3 遇上深度學習

隨著DNN在影象、語音、NLP等領域取得突破，人們見見意識到DNN在特徵表示上的天然優勢。相繼提出了使用CNN或RNN來做CTR預估的模型。但是，CNN模型的缺點是：偏向於學習相鄰特徵的組合特徵。 RNN模型的缺點是：比較適用於有序列(時序)關係的資料。

FNN的提出，應該算是一次非常不錯的嘗試：先使用預先訓練好的FM，得到隱向量，然後作為DNN的輸入來訓練模型。缺點在於：受限於FM預訓練的效果。
隨後提出了PNN，PNN為了捕獲高階組合特徵，在embedding layer和first hidden layer之間增加了一個product layer。根據product layer使用內積、外積、混合分別衍生出IPNN, OPNN, PNN*三種類型。

無論是FNN還是PNN，他們都有一個繞不過去的缺點：對於低階的組合特徵，學習到的比較少。而前面我們說過，低階特徵對於CTR也是非常重要的。

Google意識到了這個問題，為了同時學習低階和高階組合特徵，提出了Wide&Deep模型。它混合了一個線性模型（Wide part）和Deep模型(Deep part)。這兩部分模型需要不同的輸入，而Wide part部分的輸入，依舊依賴人工特徵工程。

但是，這些模型普遍都存在兩個問題：
1. 偏向於提取低階或者高階的組合特徵。不能同時提取這兩種型別的特徵。
2. 需要專業的領域知識來做特徵工程。

DeepFM在Wide&Deep的基礎上進行改進，成功解決了這兩個問題，並做了一些改進，其優勢/優點如下：

1. 不需要預訓練FM得到隱向量
2. 不需要人工特徵工程
3. 能同時學習低階和高階的組合特徵
4. FM模組和Deep模組共享**Feature Embedding**部分，可以更快的訓練，以及更精確的訓練學習

下面，就讓我們走進DeepFM的世界，一起去看看它到底是怎麼解決這些問題的！

3. DeepFM

DeepFM閃亮登場！

主要做法如下：
1. FM Component + Deep Component。FM提取低階組合特徵，Deep提取高階組合特徵。但是和Wide&Deep不同的是，DeepFM是端到端的訓練，不需要人工特徵工程。
2. 共享feature embedding。FM和Deep共享輸入和feature embedding不但使得訓練更快，而且使得訓練更加準確。相比之下，Wide&Deep中，input vector非常大，裡面包含了大量的人工設計的pairwise組合特徵，增加了他的計算複雜度。

DeepFM架構圖：

3.1 FM Component

FM部分的輸出由兩部分組成：一個Addition Unit，多個內積單元。

這裡的d是輸入one-hot之後的維度，我們一般稱之為feature_size。對應的是one-hot之前的特徵維度，我們稱之為field_size。

FM架構圖：

Addition Unit

3.2 Deep Component

Deep Component架構圖：

Deep Component是用來學習高階組合特徵的。網路裡面黑色的線是全連線層，引數需要神經網路去學習。

由於CTR或推薦系統的資料one-hot之後特別稀疏，如果直接放入到DNN中，引數非常多，我們沒有這麼多的資料去訓練這樣一個網路。所以增加了一個Embedding層，用於降低緯度。

這裡繼續補充下Embedding層，兩個特點：
1. 儘管輸入的長度不同，但是對映後長度都是相同的.embedding_size 或 k
2. embedding層的引數其實是全連線的Weights，是通過神經網路自己學習到的。

Embedding層的架構圖：

值得注意的是：FM模組和Deep模組是共享feature embedding的（也就是V）。

好處：
1. 模型可以從最原始的特徵中，同時學習低階和高階組合特徵
2. 不再需要人工特徵工程。Wide&Deep中低階組合特徵就是同過特徵工程得到的。

3.3 對比其他模型

模型圖：

FNN

FNN is a FM-initialized feedforward neural network.
FNN使用預訓練的FM來初始化DNN，然後只有Deep部分，不能學習低階組合特徵。

FNN缺點：

1. Embedding的引數受FM的影響，不一定準確
2. 預訓練階段增加了計算複雜度，訓練效率低
3. FNN只能學習到高階的組合特徵。模型中沒有對低階特徵建模。

PNN

PNN：為了捕獲高階特徵。PNN在第一個隱藏層和embedding層之間，增加了一個product layer。

根據product的不同，衍生出三種PNN：IPNN，OPNN，PNN* 分別對應內積、外積、兩者混合。

作者為了加快計算，採用近似計算的方法來計算內積和外積。內積：忽略一些神經元。外積：把m*k維的vector轉換成k維度的vector。由於外積丟失了較多資訊，所以一般沒有內積穩定。

但是內積的計算複雜度依舊非常高，原因是：product layer的輸出是要和第一個隱藏層進行全連線的。

PNN缺點：

1. 內積外積計算複雜度高。採用近似計算的方法外積沒有內積穩定。
2. product layer的輸出需要與第一個隱藏層全連線，導致計算複雜度居高不下
3. 和FNN一樣，只能學習到高階的特徵組合。沒有對於1階和2階特徵進行建模。

Wide&Deep

Wide & Deep設計的初衷是想同時學習低階和高階組合特徵，但是wide部分需要領域知識進行特徵工程。

Wide部分可以用LR來替換，這樣的話就和DeepFM差不多了。
但是DeepFM共享feature embedding 這個特性使得在反向傳播的時候，模型學習feature embedding，而後又會在前向傳播的時候影響低階和高階特徵的學習，這使得學習更加的準確。

Wide&Deep缺點：

1. 需要特徵工程提取低階組合特徵

DeepFM

優點：

1. 沒有用FM去預訓練隱向量V，並用V去初始化神經網路。（相比之下FNN就需要預訓練FM來初始化DNN）
2. FM模組不是獨立的，是跟整個模型一起訓練學習得到的。（相比之下Wide&Deep中的Wide和Deep部分是沒有共享的）
3. 不需要特徵工程。（相比之下Wide&Deep中的Wide部分需要特徵工程）
4. 訓練效率高。（相比PNN沒有那麼多引數）

什麼？太多了亂七八糟記不住？OK，那就記住最核心的：

1. 沒有預訓練（no pre-training）
2. 共享Feature Embedding，沒有特徵工程（no feature engineering）
3. 同時學習低階和高階組合特徵（capture both low-high-order interaction features）

3.4 超引數建議

論文中還給出了一些引數的實驗結果，直接給出結論，大家實現的時候可以參考下。

PS: constant效果最好，就是隱藏層每一層的神經元的數量相同。

最後，模型對比圖鎮：

Reference

1. DeepFM: A Factorization-Machine based Neural Network for CTR Prediction

獲取更多機器學習乾貨、薦貨，歡迎關注機器學習薦貨情報局，加入薦貨大家庭！