1. 程式人生 > >知識圖譜論文閱讀

知識圖譜論文閱讀

知識圖譜論文閱讀

1.Question Answering over Freebase via Attentive RNN with Similarity Matrix based CNN(有pytorch原始碼)

1.實體檢測

此外,文中設計了一種新的實體檢測啟發式擴充套件方法,大大降低了噪聲的影響。
Alt text

2.關係檢測(檢測出知識圖譜中與問題最匹配的關係)
目的:找出與問題P相似度最大的關係R,即

Alt text

使用了兩種相似度的計算

Alt text

(1)語義層面:使用 RNN 的序列建模本質來捕獲語義級關聯,並使用注意機制同時跟蹤實體和關係。
1.使用attention機制表示question
Alt text


2.計算表示後的問題與relation的相似度
Alt text


(2).·字層面·:針對一個詞會有多種表示的問題,文中使用基於 CNN 的相似矩陣和雙向池化操作建模資料間空間相關性的強度來計算詞語字面的匹配程度。
1.建立Q與R之間的相似度矩陣
Alt text
2.基於相似度矩陣進行CNN卷積
Alt text
3.在問題和關係兩個方向進行max pooling
Alt text
4.通過全連線層
Alt text

最後組合上述兩種相似度,進行最後的打分
Alt text


2.DKN: Deep Knowledge-Aware Networkfor News Recommendation

Alt text

1.使用了三個資訊
(1)標題本身詞向量
(2)標題內實體的向量
對於freebase中的三元組(h,r,t)即head,relation,the tail of a triple,進行embedding的調整
Alt text


(3)context embedding
即圖譜中與實體有關的其他實體,取一個平均
Alt text

2.對於三類資訊的整合和對齊

(1)通過矩陣將其投影至同一語義空間
Alt text
(2)三個向量對齊
Alt text

3.使用CNN獲取W的高維表示

3.Knowledge-aware AttentiveNeural Network for Ranking Question Answer Pairs

Alt text
1.使用雙向LSTM分別取表示question和answer
2.