keras 序貫(Sequential)模型 常見設置
阿新 • • 發佈:2018-10-11
tail 情感 href http optimizer .net square hyper 預測 最近看了一些例子,keras在預測方面,Sequential 常見搭配如下
情感分析
embedding -> lstm -> dense
embedding 主要用於詞的one-hot 編碼, lstm 主要用於長距離記憶, dense 是全連接。
CTR 預測或者序列預測
lstm -> dense 就足夠了, 當然前面可以多個lstm。
- loss (目標函數)方面
loss=‘mean_squared_error‘ (均方誤差), 或者 loss=‘mae‘(絕對值均差) 兩者選擇哪個都可以。
- optimizer(優化器)
optimizer=‘adam‘ 常見用法。metrics 常設置為‘accuracy‘
- 激活函數
有很多,比如 Sigmoid、TanHyperbolic(tanh)、ReLu、 softplus以及softmax函數。但實際中經常使用的是 relu。具體可以查看這篇文章(https://blog.csdn.net/qrlhl/article/details/60883604)。
一般在lstm層數較多的時候使用relu,較少時使用默認的tanh
keras 序貫(Sequential)模型 常見設置