1. 程式人生 > >機器學習的理論知識點總結

機器學習的理論知識點總結

最近一邊看書,一邊梳理機器學習的知識點:

1. 線性迴歸

2.線性迴歸的損失函式(誤差的平方和)

3. 最小二乘法(手推導)

4.批量梯度下降法(學習率大小問題)

5.放縮scaling對梯度下降的影響

6.多元線性迴歸

7.邏輯斯蒂迴歸-二元分類

8.LR代價函式

9.神經網路

10.前向傳播和後向傳播

11.神經網路過程

12.模型選擇和交叉驗證

13.高偏差和高方差

14.偏差和方差(欠擬合和過擬合)

15.學習率

16.模型評價  混淆矩陣  準確率和召回率  F1值,ROC曲線和auc的含義

17.無監督聚類 k-means  迭代演算法和過程   選擇聚類數的動機  聚類相似度和距離的度量  中心點隨機初始化   代價函式   容易陷入區域性最小值  解決辦法多執行幾次取loss最小的,降維  資料視覺化   PCA。

18.