1. 程式人生 > >論文閱讀:Memory Networks

論文閱讀:Memory Networks

users 方式 article div local 網絡 ava auto data-

一、論文所解決的問題 實現長期記憶(大量的記憶),而且實現怎樣從長期記憶中讀取和寫入,此外還增加了推理功能 為什麽長期記憶非常重要:由於傳統的RNN連復制任務都不行,LSTM預計也夠玄乎。

在QA問題中,長期記憶是非常重要的,充當知識庫的作用。從當中獲取長期記憶來回答問題 技術分享 上面這個問題就是,當遇到有若幹個句子而且句子之間有聯系的時候,RNN和LSTM就不能非常好地解決,以為是長期依賴。須要從記憶中提取信息技術分享 二、論文的解決方式 (0)總體架構一覽 技術分享 技術分享 實際上所謂的Memory Network是一個通用的框架而已,內部的輸入映射、更新記憶映射、輸出映射、響應映射都是能夠更換的 技術分享


技術分享
(1)特定於自然語言的實現 the I module takes an input text. The text is stored in the next available memory slot in its original form The G module is thus only used to store this new memory, so old memories are not updated. 技術分享

技術分享
技術分享 技術分享 技術分享 技術分享


三、論文中的方案解決該問題。解決到了什麽程度?
事實上論文中主要就是提了一個大的框架,而框架中的每個模塊都是能夠變更的,這樣能夠適應不同的應用,可是實質上並沒有較大的創新。本質上還算是一種RNN類型的網絡。

四、實驗 (1)實驗結果 技術分享
技術分享

論文閱讀:Memory Networks