一、BP網路特點

BP演算法是一種最有效的多層神經網路學習方法，其主要特點是訊號前向傳遞，而誤差後向傳播，通過不斷調節網路權重值，使得網路的最終輸出與期望輸出儘可能接近，以達到訓練的目的。實際就是，通過最優化各層神經元的輸入權值以及偏置，使得神經網路的輸出儘可能地接近期望輸出，以達到訓練（或者學習）的目的。

BP網路和傳統神經網路一樣，也是包含三層：輸入、輸出和多個隱藏層；（由於畫圖太慢，這裡就省略了。。。。就是自己懶）。

通常在多層神經網路中採用非線性啟用函式，而不是用線性啟用函式，因為採用基於線性啟用函式的多層神經網路本質上還是多個線性函式的疊加，其結果仍然為一個線性函式。

二、啟用函式

BP神經網路通常使用兩種啟用函式：

1：sigmod函式（logistics函式）

2：雙曲正切函式

三、BP演算法過程描述

四、推導過程

詳細過程可參考機器學習西瓜書

自己理解：找最優的權重和偏執，使得真實值和預測值誤差越小。（可能不對，暫時這麼理解。。。。。。有錯誤請指出，再修正。）