寫在前面的話：此部分是關於fastai的學習部分

1、學習率的調整是訓練模型的一個重要的方面，可以設定隨迭代次數增長的學習率，畫出影象，再畫出學習率與損失函式的關係，通過損失函式確定合適的學習率，如下圖：

需要注意的是，一般不將學習率設定到損失函式的最低點，而是要比那個學習率稍小一點
2、學習率調整的第二個技巧，學習率的退火，當我們離損失函式最低的點越來越近時，我們應該調小我們的學習率。由於學習引數的維數較多，我們學習到的最低點也未必是真正的最低點，這時可以稍微調大學習率跳過這個點再尋找最低點。

3、重新訓練模型的技巧-差異學習率：可以對不同的層設定不同的學習率，較低的層探測比較低階的特徵，較為普遍，可以設定較低的學習率，高的層探測較高的語義特徵，由於任務不同可能比較獨特，可以設定較高的學習率，通常來說，低層的學習率比高層低3到10倍。
4、訓練網路的步驟：1）找到一個合適的學習率2）凍結大部分網路訓練幾個epoch3）使用資料擴充同時使用學習率退火訓練幾次4）解凍網路，找到一個比較合適的學習率，使用不同的學習率進行訓練，同時學習率退火。