論文閱讀:Memory Networks
阿新 • • 發佈:2017-08-17
users 方式 article div local 網絡 ava auto data-
一、論文所解決的問題
實現長期記憶(大量的記憶),而且實現怎樣從長期記憶中讀取和寫入,此外還增加了推理功能
為什麽長期記憶非常重要:由於傳統的RNN連復制任務都不行,LSTM預計也夠玄乎。
(1)特定於自然語言的實現 the I module takes an input text. The text is stored in the next available memory slot in its original form The G module is thus only used to store this new memory, so old memories are not updated.
三、論文中的方案解決該問題。解決到了什麽程度?
事實上論文中主要就是提了一個大的框架,而框架中的每個模塊都是能夠變更的,這樣能夠適應不同的應用,可是實質上並沒有較大的創新。本質上還算是一種RNN類型的網絡。
四、實驗 (1)實驗結果
在QA問題中,長期記憶是非常重要的,充當知識庫的作用。從當中獲取長期記憶來回答問題 上面這個問題就是,當遇到有若幹個句子而且句子之間有聯系的時候,RNN和LSTM就不能非常好地解決,以為是長期依賴。須要從記憶中提取信息 二、論文的解決方式 (0)總體架構一覽 實際上所謂的Memory Network是一個通用的框架而已,內部的輸入映射、更新記憶映射、輸出映射、響應映射都是能夠更換的
(1)特定於自然語言的實現 the I module takes an input text. The text is stored in the next available memory slot in its original form The G module is thus only used to store this new memory, so old memories are not updated.
三、論文中的方案解決該問題。解決到了什麽程度?
事實上論文中主要就是提了一個大的框架,而框架中的每個模塊都是能夠變更的,這樣能夠適應不同的應用,可是實質上並沒有較大的創新。本質上還算是一種RNN類型的網絡。
四、實驗 (1)實驗結果
論文閱讀:Memory Networks