強化學習及其在NLP上的應用
阿新 • • 發佈：2018-11-12
what is RL?
Different kinds of RL
線性或非線性擬合會有幾個問題：1、預設資料獨立同分布，但是輸入資料間有關聯 2、target不穩定，label 好壞程度或正確程度不穩定
DQN對其進行三方面改進：1、深度卷積神經網路擬合能力比較強 2、通過之前的樣本或者別人的樣本進行訓練，主要是打亂樣本之間的相關性
狀態－－》策略擬合
動作很多或者連續動作空間，會消耗更多的資源不適合用基於值的RL
適合使用基於策略的RL，減少過程計算
缺點：
高方差：ac演算法或a3c演算法可以解決高方差這個問題
目的：骷髏拿到錢
確定性策略問題：灰色塊往左走，白色塊往右走，那一直得不到想要的結果
隨機性策略：可以探索更多的區域
RL在離散空間有天然的優勢,文字生成、序列決策
相似的論文："Adversarial Learning for Neural Dialogue Generation (2017)"
GAN 不能用於自然語言處理和文字生成：
判別器 生成器：判別器加0.1，在詞庫可能找不到
判別器：CNN 生成器：LSTM
