《深度學習》課程筆記目錄總集
- 神經網路和深度學習
神經網路概論
o主要介紹：神經網路的概念、深度學習興起的原因、課程內容等；
o筆記：介紹性課程，沒有做相應的筆記。
o程式設計作業：無
神經網路基礎
o主要介紹：logistic迴歸、損失函式、梯度下降、計算向量化、代價函式等；
o筆記： DeepLearning.ai 課程提煉筆記（1-2）神經網路和深度學習 — 神經網路基礎
o程式設計作業：使用Numpy的基礎Python、logistic迴歸
淺層神經網路
o主要介紹：神經網路、啟用函式、梯度下降法、反向傳播、隨機初始化等；
o筆記：DeepLearning.ai 課程提煉筆記（1-3）神經網路和深度學習 — 淺層神經網路
o程式設計作業：使用淺層神經網路實現平面資料分類
深層神經網路
o主要介紹：深度神經網路、DNN的前向和反向傳播、引數和超引數等；
o筆記： DeepLearning.ai 課程提煉筆記（1-4）神經網路和深度學習 — 深層神經網路 o程式設計作業：構建DNN、DNN用於圖片分類
（第二週）
02. 改善深層神經網路：超引數除錯、正則化以及優化
深度學習的實踐方面
o主要介紹：訓練測試集劃分、偏差和方差、正則化、Dropout、輸入歸一化、梯度消失與梯度爆炸、權重初始化、梯度檢驗等；
o筆記：DeepLearning.ai 課程提煉筆記（2-1）改善深層神經網路 — 深度學習的實踐方面
o程式設計作業：初始化、正則化、梯度檢驗
優化演算法
o主要介紹：Mini-batch梯度下降、指數加權平均、Momentum梯度下降、RMSprop、Adam優化演算法、衰減學習率、區域性最優等；
o筆記：
（第四周） 04. 卷積神經網路 卷積神經網路基礎 o主要介紹：計算機視覺、邊緣檢測、卷積神經網路、Padding、卷積、池化等； o筆記：DeepLearning.ai 課程提煉筆記（4-1）卷積神經網路 — 卷積神經網路基礎 o程式設計作業：構建卷積神經網路、手勢識別應用 卷積神經網路例項模型 o主要介紹：AlexNet、LeNet、VGG、ResNet、Inception Network、1乘1卷積、遷移學習、資料擴充等； o筆記：DeepLearning.ai 課程提煉筆記（4-2）卷積神經網路 — 深度卷積模型 o程式設計作業：Keras教程-the Happy House、Residual Networks （第五週） 目標檢測 o主要介紹：目標定位、目標檢測、Bounding Box預測、交併比、非最大值抑制NMS、Anchor box、YOLO演算法、候選區域region proposals等； o筆記：DeepLearning.ai 課程提煉筆記（4-3）卷積神經網路 — 目標檢測 o程式設計作業：自動駕駛-汽車檢測 特殊應用：人臉識別和神經風格遷移 o主要介紹：人臉識別、one-shot學習、Siamese網路、Triplet損失、風格遷移、內容損失、風格損失、1D-3D卷積等； o筆記： DeepLearning.ai 課程提煉筆記（4-4）卷積神經網路 — 人臉識別和神經風格遷移 o程式設計作業：人臉識別-Happy House、神經風格遷移-深度學習和藝術 o （第六週） 05. 序列模型 迴圈神經網路 o主要介紹：迴圈神經網路、不同型別的RNN、語言模型、新序列取樣、RNN梯度消失、GRU、LSTM、雙向RNN、深層RNNs等； o筆記：DeepLearning.ai 課程提煉筆記（5-1）序列模型 — 迴圈神經網路 o程式設計作業：構建RNN、字母級的語言模型-Dinosaurus land、用LSTM即興創作Jazz 自然語言處理和詞嵌入 o主要介紹：詞彙表徵、Word Embedding、嵌入矩陣、Word2Vec、負取樣、GloVe詞向量、情感分類、詞嵌入消除偏見等； o筆記：DeepLearning.ai 課程提煉筆記（5-2）序列模型 — NLP和詞嵌入 o程式設計作業：詞向量運算、Emojify 序列模型和注意力機制 o主要介紹：序列到序列模型、集束搜尋（Beam search）、集束搜尋誤差分析、Bleu得分、注意力模型、注意力權重、語音識別、觸發字檢測等； o筆記：DeepLearning.ai 課程提煉筆記（5-3）序列模型 — 序列模型和注意力機制 o程式設計作業：機器翻譯、觸發字檢測 o （第七週 選學） 06. 對抗神經網路（GAN）
深度學習專案實戰-對抗生成網路（GAN）
基於卷積的對抗生成網路（DCGAN）
(第八週 選學) 07. 強化學習簡介