1. 程式人生 > >論文筆記-Personal Recommendation Using Deep Recurrent Neural Networks in NetEase

論文筆記-Personal Recommendation Using Deep Recurrent Neural Networks in NetEase

use clas max onf 一位 url base 輸入 ont

思路:利用RNN對用戶瀏覽順序建模,利用FNN模擬CF,兩個網絡聯合學習

RNN網絡結構:

技術分享圖片

輸出層的state表示用戶瀏覽的某一頁面,可以看做是一個one-hot表示,state0到3是依次瀏覽的頁面。因為RNN的輸入個數是有限的,如果用戶瀏覽的過多的頁面,那麽就會丟失最開始的那些頁面,paper為了保留這部分信息,使用了history state將前x-n個狀態的信息保留下來,作為一個單獨的state輸入

history state的向量表示如下:

技術分享圖片

FNN模擬CF:

技術分享圖片

輸入是每個用戶的購買item向量0-1表示。輸出是item長度的向量,表示當前用戶的購買概率(雖然輸入是全部用戶,但是在training的時候是對具體的一位user算loss,所以輸出是這個user的item購買概率,在網絡中學習)

兩個網絡放在一起,在各自最後的ReLU層後算一個softmax,然後將兩個網絡softmax的輸出再算一個 softmax。整體結構如下圖:

前四列是RNN,看得出來循環次數是4,最後一列是FNN

技術分享圖片

論文筆記-Personal Recommendation Using Deep Recurrent Neural Networks in NetEase