title: 吳恩達Coursera(DeepLearning.ai)筆記和作業彙總帖
date: 2018-10-18 20:01:05
id: dl-ai-summary
tags:

• dl.ai
  categories:
• 彙總帖

歷時一個多月終於把NG的五門課全部學完並且做了作業和筆記了。這裡彙總一下：

第一門課：神經網路和深度學習

主要講了神經網路的基本概念，以及機器學習的梯度下降法，向量化，而後進入了淺層和深層神經網路的實現。

• 前兩週太簡單了，在之前的機器學習課上NG全部都講過了，這裡就不做了。

• 第三週：主要是淺層神經網路的實現

• 第四周：深層神經網路的實現

第二門課：改善神經網路

介紹了改善神經網路的方法，如正則化，超引數調節，優化演算法等。

• 第一週：訓練集的劃分、正則化、dropout

• 第二週：Mini-batch、Momentum、RMS、Adam、學習率衰減

  • 筆記：優化演算法
  • 作業：優化演算法

• 第三週：超引數的除錯、BatchNorm、softmax

  • 筆記：超引數除錯
  • 作業：超引數除錯

第三門課：結構化機器學習專案

主要講了機器學習中的一些策略。

• 第一週：ML策略、正交化、優化指標、資料集的劃分、偏差
• 第二週：誤差分析、資料不同分佈、遷移學習、多工、端到端

第四門課：卷積神經網路

主要講了神經網路的在影象上的非常重要的應用，卷積神經網路。

• 第一週：padding、步長、池化、卷積

• 第二週：一些重要的神經網路結構，VGG、ResNet、Inception等

• 第三週：目標檢測、Bounding Box、IOU、NMS

  • 筆記：目標檢測
  • 作業：目標檢測

第五門課：序列模型

主要講了神經網路在語言領域的應用，用RNN模型