1. 程式人生 > 其它 >動手學深度學習 | 目錄 | 00

動手學深度學習 | 目錄 | 00

目錄

安裝 | 01

資料操作+資料預處理 | 02

線性代數 | 03

矩陣計算 | 04

自動求導 | 05

線性迴歸+基礎優化演算法 | 06

Softmax迴歸+損失函式+圖片分類資料集

多層感知機+程式碼實現

模型選擇+過擬合和欠擬合

權重衰退

丟棄法

數值穩定性+模型初始化和啟用函式

實戰:Kaggle房價預測+課程競賽:加州2020年房價預測

PyTorch神經網路基礎

使用和購買GPU

預測房價競賽總結

卷積層

卷積層裡的填充和步幅

卷積層裡的多輸入多輸出通道

池化層

經典卷積神經網路LeNet

深度卷積神經網路AlexNet

使用塊的網路VGG

網路中的網路NiN

含並行連結的網路GoogLeNet/Inception V3

批量歸一化

殘差網路 ResNet

ResNet為什麼能訓練出1000層的模型

第二部分完結競賽:圖片分類

深度學習硬體:CPU和GPU

深度學習硬體:TPU和其他

單機多卡並行

多GPU訓練實現

分散式訓練

資料增廣

微調

第二次競賽:樹葉分類結果

實戰Kaggle比賽:影象分類(CIFAR-10)

實戰Kaggle比賽:狗的品種識別(ImageNet Dogs)

物體檢測和資料集

錨框

樹葉分類競賽技術總結

物體檢測演算法:R-CNN、SSD、YOLO

SSD實現

語義分割和資料集

轉置卷積

轉置卷積是一種卷積

全連線卷積神經網路FCN

樣式遷移

課程競賽:牛仔行頭檢測

序列模型

文字預處理

語言模型

迴圈神經網路RNN

迴圈神經網路RNN的實現

門控制迴圈單元(GRU)

長短期記憶網路(LSTM)

深層迴圈神經網路

雙向迴圈神經網路

機器翻譯資料集

編碼器-解碼器架構

序列到序列學習(seq2seq)

束搜尋

注意力機制

注意力分數

使用注意力機制的seq2seq

自注意力

Transformer

BERT預訓練

BERT微調

目標檢測競賽總結

優化演算法