DL的發展歷史

  1）從ML到DL
  在Machine Learning時代，複雜一點的分類問題效果就不好了，Deep Learning深度學習的出現基本上解決了一對一對映的問題，比如說影象分類，一個輸入對一個輸出，因此出現了AlexNet這樣的里程碑式的成果。

  2）從DL到deep reinforcement learning
  但如果輸出對下一個輸入還有影響呢？也就是sequential decision making的問題（有關序列的問題），單一的深度學習就解決不了了，這個時候Reinforcement Learning增強學習就出來了，Deep Learning + Reinforcement Learning = Deep Reinforcement Learning深度增強學習。有了深度增強學習，序列決策初步取得成效，因此，出現了AlphaGo這樣的里程碑式的成果。

  3）到meta learning
  但是，新的問題又出來了，深度增強學習太依賴於巨量的訓練，並且需要精確的Reward，對於現實世界的很多問題，比如機器人學習，沒有好的reward，也沒辦法無限量訓練，怎麼辦？這就需要能夠快速學習。
  而人類之所以能夠快速學習的關鍵是人類具備學會學習的能力，能夠充分的利用以往的知識經驗來指導新任務的學習，因此Meta Learning成為新的攻克的方向。
  元學習學習到的是學習能力，而不是知識本身。