1. 程式人生 > >深度學習入門必看

深度學習入門必看

是我 決策 包括 效果 超越 自然 選項 準備 進展

看網上搜集的各種龐雜的DL學習資料列表,你可能會被嚇死。但實際上大部分學習資料都包含了相當多重復的內容,下面是我個人總結的一些學習經驗,希望能去蕪存菁,幫助程序員快速進入深度學習的聖殿。

數學基礎。如果你去讀深度學習的論文,會發現數學對於DL非常重要,線性代數、概率論、甚至微積分都有用武之地。這些知識都還給學校了怎麽辦?難道要把所有這些課程再學一遍?大可不必。只要把DL需要用到的部分好好復習一下就好。這裏推薦《Deep Learning》這本權威著作的第一部分,詳述了機器學習需要的數學基礎,另外也講了機器學習領域的很多基本概念。

一本入門教材。雖然上面提到的《Deep Learning》是公認的DL最權威教材,但是一般人會覺得過於艱深,包含太多數學方面的論證。如果你對數學公式不太感冒,建議不要用這本書入門。我推薦一本《Hands on Machine Learning》。不要被書的名字欺騙了,本書的內容其實一點也不初級,講述的很全面深入。但是語言非常流暢,容易讀懂。這本書分為兩部分,第一部分講述了機器學習的各種傳統算法,第二部分才是深度學習的內容。傳統算法的學習很有必要,一方面幫助我們理解ML發展的脈絡,另一方面,很多傳統算法其實並沒有被淘汰,比如RandomForest這種基於決策樹的算法,在結構化數據的挖掘方面非常有效。

一個入門課程。這裏我提供兩個選項:

第一推薦Andrew Ng剛剛上線的Deeplearning.ai。Andrew Ng的課,品質應該不會差,而且估計他會加入很多最前沿的研究。這門課剛剛開課,應該會持續幾個月的時間。所以要做好長期學習的準備。

第二個是我上過的fast.ai。這門課的講師也是個牛人,曾負責Kaggle平臺的研發。這個課程更加註重實踐,在講解概念的同時,用Keras+Jupyter Notebook直接演示模型的訓練。總共只有7節課,每課時兩個小時,但是每節課的Notes裏面附帶大量的參考資料,需要花很多時間去自學、消化。這門課現在開始了第二學期,講DL最前沿的研究進展,也是7節課。另外,需要習慣一下講師的澳洲英語。

選一個方向。深度學習可應用的領域很多,我們需要選擇其中一個深入研究。方向包括:計算機視覺(圖像、視頻處理,主要用CNN)、自然語言處理NLP(包括文本、語音處理,序列數據往往需要RNN)、增強學習(用在機器人、自動駕駛等方面),此外對於生成模型(GAN、VAE等等)的研究也是一個熱點。

讀一些論文。在選定方向以後,我們可以去讀一下這個方向的經典論文。說是經典,但是深度學習這個方向真正爆發也就是最近幾年的事情,所以很多東西其實都是前兩年的論文結果。推薦一個Awesome Deep Learning Papers的論文列表,個人覺得整理得不錯,有參考價值。DL這個領域進展特別快,前幾年的研究結果可能早已經被超越了,所以讀論文要保持開放心態。不過,論文有的時候真的很啰嗦,幸好有網友總結了一下:aleju/papers,先讀這個總結,帶著問題再去讀論文效果好很多。

選一個框架。DL現在有很多非常成熟的框架了,每個科技公司都有自己的一套東西,Google系的TensorFlow現在似乎風頭更勁一些。他們之間的比較可以看看這篇文章。我覺得這個跟編程語言之爭一樣,沒必要太糾結,選一個自己喜歡的就好。各個框架訓練出來的模型一定可以互相轉換的。

動手做一些深度學習項目。網上有很多開放的數據集,可以拿來做訓練,先做些簡單的,比如MNIST,IMDB影評的情感分析等。然後可以去Kaggle上做一些以前的的競賽項目,比如Cats VS Dogs一類的。如果你足夠厲害,可以參加當前的Kaggle挑戰,說不定順便贏個幾十萬美金呢:)

最後,關註一下DL最新的研究動向。這方面的媒體非常多,公眾號、知乎專欄,一搜一大把,還有很多科技博客也是頻繁更新。我推薦一個newsletter:import AI,很多人都覺得不錯,一周一次,讀起來也不會有太大負擔。

所以你看,深度學習其實沒有那麽難學,不需要你制定幾年計劃。但是要有一定自學的能力,盡快動手寫程序出來,就能建立自信突破心理障礙,再學下去就非常自如了。

Keep Calm and Carry On!

P.S. 我提到的很多資料都要FQ,相信這對於程序員不是問題。另外建議書籍、文章讀英文原版,我個人做過技術書的翻譯,對中文技術譯作沒什麽好感,大部分技術書翻譯以後都難以表達原意,甚至包含錯誤,讀起來比原版費勁。

作者:Dean0Winchester
來源:CSDN
原文:https://blog.csdn.net/qq_38906523/article/details/78031022
版權聲明:本文為博主原創文章,轉載請附上博文鏈接!

深度學習入門必看