機器學習預備知識
阿新 • • 發佈:2018-12-03
匆忙之中將凌亂的學習摘錄記錄於此,有勝於無吧。
涉及部分預備知識,比較雜亂。
線性代數
1.內積
2.範數
3.正交
4.二次型
運籌學
1.線性規劃
線性規劃的求解方法:圖解法、單純形法等。
2. 對偶問題
3. 二次規劃
二次規劃求解過程,轉化成對偶問題,以及利用拉格朗日乘子和KKT條件是關鍵。
可以參照 周志華《機器學習》附錄部分的拉格朗日乘子法的知識以及《運籌學》中提到的KT條件等進行理解。
本篇知識主要為 支援向量機(SVM)鋪路。
其實還有很多重要的基礎知識,比如特徵值與特徵向量等等知識,都是值得進一步理解的。
----------------------------------------------------------------------------------
2018/10/02 補充
學習路上吃了很多虧,無法及時的將所學的東西運用起來。時間不夠用啊,我的專業不是這個方向,有很多事情等著我去做呢,這個時候最高效的方式是先了解如何使用,然後練習即可。學有餘力再去專研其理論知識(人生苦短)。以今天的經驗教訓來看,本文的這些東西,以後不要再糾結了,儘量不要把時間花在這方面。
----------------------------------------------------------------------------------
參考資料:
1. 《工程數學 線性代數》 同濟大學,第六版。
2. 《運籌學》清華大學,第三版。
3. 《機器學習》周志華著。