Keras函式式 API
阿新 • • 發佈:2019-01-12
用Keras定義網路模型有兩種方式,
之前我們介紹了Sequential順序模型,今天我們來接觸一下 Keras 的函式式API模型。
例一:全連線網路
from keras.layers import Input, Dense from keras.models import Model # 這部分返回一個張量 inputs = Input(shape=(784,)) # 層的例項是可呼叫的,它以張量為引數,並且返回一個張量 x = Dense(64, activation='relu')(inputs) x = Dense(64, activation='relu')(x) predictions = Dense(10, activation='softmax')(x) # 這部分建立了一個包含輸入層和三個全連線層的模型 model = Model(inputs=inputs, outputs=predictions) model.compile(optimizer='rmsprop', loss='categorical_crossentropy', metrics=['accuracy']) model.fit(data, labels)# 開始訓練
多輸入多輸出模型
主要負責用函式式API來實現它
主要輸入接收新聞標題本身,即一個整數序列(每個證書編碼一個詞),這些整數在1到10000之間(10000個詞的詞彙表),且序列長度為100個詞
from keras.layers import Input, Embedding, LSTM, Dense from keras.models import Model # 標題輸入:接收一個含有 100 個整數的序列,每個整數在 1 到 10000 之間。 # 注意我們可以通過傳遞一個 "name" 引數來命名任何層。 main_input = Input(shape=(100,), dtype='int32', name='main_input') # Embedding 層將輸入序列編碼為一個稠密向量的序列, # 每個向量維度為 512。 x = Embedding(output_dim=512, input_dim=10000, input_length=100)(main_input) # LSTM 層把向量序列轉換成單個向量, # 它包含整個序列的上下文資訊 lstm_out = LSTM(32)(x)
在這裡,我們插入輔助損失,即使在模型主損失很高的情況下,LSTM層和Embedding層都能被平穩地訓練。
auxiliary_output = Dense(1, activation='sigmoid', name='aux_output')(lstm_out)
此時,我們將輔助輸入資料與 LSTM 層的輸出連線起來,輸入到模型中:
auxiliary_input = Input(shape=(5,), name='aux_input') x = keras.layers.concatenate([lstm_out, auxiliary_input]) # 堆疊多個全連線網路層 x = Dense(64, activation='relu')(x) x = Dense(64, activation='relu')(x) x = Dense(64, activation='relu')(x) # 最後新增主要的邏輯迴歸層 main_output = Dense(1, activation='sigmoid', name='main_output')(x)
然後定義一個具有兩個輸入和兩個輸出的模型:
model = Model(inputs=[main_input, auxiliary_input], outputs=[main_output, auxiliary_output])
現在編譯模型,並給輔助損失分配一個 0.2 的權重。如果要為不同的輸出指定不同的 loss_weights
或 loss
,可以使用列表或字典。 在這裡,我們給 loss
引數傳遞單個損失函式,這個損失將用於所有的輸出。
model.compile(optimizer='rmsprop', loss='binary_crossentropy', loss_weights=[1., 0.2])
我們可以通過輸入陣列和目標陣列的列表來訓練模型:
model.fit([headline_data, additional_data], [labels, labels],
epochs=50, batch_size=32)
由於輸入和輸出均被命名了(在定義時傳遞了一個 name 引數),我們也可以通過以下方式編譯模型:
model.compile(optimizer='rmsprop', loss={'main_output': 'binary_crossentropy', 'aux_output': 'binary_crossentropy'}, loss_weights={'main_output': 1., 'aux_output': 0.2}) # 然後使用以下方式訓練: model.fit({'main_input': headline_data, 'aux_input': additional_data}, {'main_output': labels, 'aux_output': labels}, epochs=50, batch_size=32)
共享網路層
函式API的另一個用途是使用共享網路層的模型。
比如我們想建立一個模型來分辨兩條推文是否來自同一個人,實現這個目標的方法是:將兩條推文編碼層兩個向量,連線向量,然後新增邏輯迴歸層;這將輸出推文來自通一個作者的概率。模型將接受一對對正負表示的推特資料。
太難了,我理解不了。以後這條部落格慢慢更新。