遷移學習

總結一下，什麼時候遷移學習是有意義的？如果你想從任務A學習並遷移一些知識到任務B，那麼當任務A和任務B都有同樣的輸入時，遷移學習是有意義的。在第一個例子中，A和B的輸入都是影象，在第二個例子中，兩者輸入都是音訊。當任務A的資料比任務多得多時，遷移學習意義更大。所有這些假設的前提都是，你希望提高任務B的效能，因為任務B每個資料更有價值，對任務A來說通常任務的資料量必須大得多，才有幫助，因為任務A裡單個樣本的價值沒有比任務B單個樣本價值大。然後如果你覺得任務A的低層次特徵，可以幫助任務B的學習，那遷移學習更有意義一些。

遷移學習最有用的場合是，如果你嘗試優化任務B的效能，通常這個任務資料相對較少，例如，在放射科中你知道很難收集很多X射線掃描圖來搭建一個性能良好的放射科診斷系統，所以在這種情況下，你可能會找一個相關但不同的任務，如影象識別，其中你可能用1百萬張圖片訓練過了，並從中學到很多低層次特徵，所以那也許能幫助網路在任務B在放射科任務上做得更好，儘管任務B沒有這麼多資料。遷移學習什麼時候是有意義的？它確實可以顯著提高你的學習任務的效能，但我有時候也見過有些場合使用遷移學習時，任務A實際上資料量比任務B要少，這種情況下增益可能不多。

多工學習

在遷移學習中，你的步驟是序列的，你從任務A裡學習知識然後遷移到任務B。在多工學習中，你是同時開始學習的，試圖讓單個神經網路同時做幾件事情，然後希望這裡每個任務都能幫到其他所有任務。

我們來看一個例子，假設你在研發無人駕駛車輛，那麼你的無人駕駛車可能需要同時檢測不同的物體，比如檢測行人、車輛、停車標誌，還有交通燈各種其他東西。比如在左邊這個例子

那麼多工學習什麼時候有意義呢？當三件事為真時，它就是有意義的。

第一，如果你訓練的一組任務，可以共用低層次特徵。對於無人駕駛的例子，同時識別交通燈、汽車和行人是有道理的，這些物體有相似的特徵，也許能幫你識別停車標誌，因為這些都是道路上的特徵。

第二，這個準則沒有那麼絕對，那個小任務的平均資料量差不多。

遷移學習和微調的區別

• 什麼是遷移學習？
  即一種學習對另一種學習的影響，它廣泛地存在於知識、技能、態度和行為規範的學習中。任何一種學習都要受到學習者已有知識經驗、技能、態度等的影響，只要有學習，就有遷移。遷移是學習的繼續和鞏固，又是提高和深化學習的條件，學習與遷移不可分割。
  換句話說，對於一個具體的深度學習訓練任務，如：人臉識別，訓練資料當然是用人臉庫啦，你會覺得是廢話，但是，呵呵，要是你的人臉庫不夠大怎麼辦？要是你沒錢買資料怎麼辦？而且，你又沒有足夠的時間收集一個足夠大的人臉庫怎麼辦？這個時候，你可以試試遷移學習（transfer learning），用別人已經訓練好的Imagenet的模型來做。
  你可以將已經訓練好了的Alexnet、googlenet、vggnet等網路中的某些層直接抽出來，化為己用。具體的來說，你可以將Alexnet中的最一層特徵層抽出來，然後自己設計一個分類器或者直接用SVM分類器，分類。當然你也可以抽取多個網路中的網路層，然後進行融合。總而言之，就是將已經學到了的“知識”化為己用。在最後，你要用自己的資料集進行一下微調（fine-tune）。這就好比，使用“吸星大法”吸收了別人的功力之後，好歹也得打坐盤膝，調理一下不是？

• 什麼是微調（fine-tune）？
  看到別人一個很好的模型，雖然針對的具體問題不一樣，但是也想試試看，看能不能得到很好的效果，而且自己的資料也不多，怎麼辦？沒關係，把別人現成的訓練好了的模型拿過來，換成自己的資料，調整一下引數，在訓練一遍，這就是微調（fine-tune）。

• 總結
  遷移學習更像是“吸星大法”，將別人修煉的功力直接吸過來，但是因為原先針對的具體任務有所不同，有可能走火入魔？這時候，就需要盤膝打坐調理一番，疏通自己的經脈，努力使自己的功力更上一層樓（也有可能一點提升也沒有，否則就不用研究遷移學習啦）。從某意義上來說，微調應該是遷移學習中的一部分。

轉載自：