【學習日記】吳恩達深度學習工程師微專業第一課：神經網路和深度學習
阿新 • • 發佈：2019-02-15
以下內容是我聽吳恩達深度學習微專業第一課做的學習筆記，主要是按自己的理解回答一些問題，並非全部出自課程內容。
1. 什麼是神經網路？
神經網路是諸多機器學習方法中的一種，受人類大腦工作方式的啟發而發明的。人類大腦的一個神經元通過多個樹突來接收來自不同神經元的訊號，接著細胞核處理訊號，然後通過同一個軸突輸出訊號，很多的神經元通過連線組成人類的大腦。在神經網路中，類比於單個神經元的是所謂的“操作”，它可以接收來自其他操作的輸出，處理這些資訊，並輸出唯一的一個結果。很多的“操作”按照一定的方式組裝形成神經網路。
2. 什麼是深度學習？
深度學習是神經網路演算法的一種，這裡的“深度”指的是神經網路的層數較多，一般至少要包含1個隱含層。
3. 深度學習為什麼會在火起來？
最主要的原因是深度學習的特性，在小資料量下，深度學習的優勢不是很明顯，而隨著供給給深度學習演算法的資料越來越多，其優勢越發明顯。而近來在三個方面的進展，可以總結為“ABC”，使得其優勢發揮出來。這裡的A就是指演算法的進步，B指的是大資料，C指的是計算力。在演算法方面，包括更好更深的網路架構，比如VGG16，ResNet等，更好的啟用函式，比如線性整流函式Relu的使用，更多的正則化方法，比如隨機失活Dropout等。在大資料方面，網際網路和手機的普及，使得可用的資料急劇增大。在計算力方面，基於摩爾定律的CPU算力增長和GPU的廣泛使用，使得計算力大幅增長。正是在這樣的背景下，深度學習才能這麼火。
4. 什麼是監督學習？
監督學習是指從有標記的資料集中學習輸入和輸出之間關係的一類機器學習演算法。
5. 什麼是邏輯迴歸？
邏輯迴歸又叫二分類演算法，是指輸出只有0和1兩種結果的演算法。
6. 邏輯迴歸的數學表示式推導？
