1. 程式人生 > >數學知識-積累與發現

數學知識-積累與發現

概率與統計

基礎

概率論-wiki
資料探勘中所需的概率論與數理統計知識
先驗概率與後驗概率
PR曲線、ROC曲線和AUC
詳解最大似然估計(MLE)、最大後驗概率估計(MAP),以及貝葉斯公式的理解

MLE隱含了引數取任何值的概率都一樣,而MAP則考慮到了引數取不同值的概率是有差別的,有些值更容易取到,有些值不容易取到。比如扔十次硬幣,十次都是正,那MLE估計得結果就是正的概率為1,但大家知道這明顯不可能,所以要用到先驗概率,就是上面所說,我們預先知道了取1幾乎不可能

馬爾科夫鏈蒙特卡洛方法

簡單易學的機器學習演算法——馬爾可夫鏈蒙特卡羅方法MCMC


簡單易學的機器學習演算法——Metropolis-Hastings演算法
MCMC(一)蒙特卡羅方法

假設檢驗

方差分析(一): 方差分析的基本原理
卡方檢驗原理及應用

資訊理論

資訊理論:熵與互資訊
【機器學習】資訊量,資訊熵,交叉熵,KL散度和互資訊(資訊增益)
決策樹–資訊增益,資訊增益比,Geni指數的理解
ID3決策樹中連續值的處理

優化演算法

基礎

NPC問題
P、NP、NPC和NP-Hard相關概念的圖形和解釋
P問題、NP問題、NPC問題的概念及例項證明
常見的幾種最優化方法(梯度下降法、牛頓法、擬牛頓法、共軛梯度法等)
數值優化(Numerical Optimization)學習系列-線搜尋方法(LineSearch)


組合最優化
概論-組合最優化問題、計算複雜性和啟發式演算法概念(現代優化計算方法)

梯度下降

為什麼說隨機最速下降法(SGD)是一個很好的方法?
梯度下降(Gradient Descent)小結

貪婪演算法

貪心演算法
從零開始學貪心演算法
演算法思想 – 貪心演算法(1) – 基本概念及步驟
遞迴,分治演算法,動態規劃和貪心選擇的區別
擬陣理論和貪心演算法淺析

搜尋演算法

線性規劃之單純形法【超詳解+圖解】
如果有最優解,為什麼單純形最終一定會達到最優解?
共軛方向法和共軛梯度法
最優化學習筆記(九)——基本的共軛方向演算法
區域性搜尋演算法詳解
搜尋演算法(篇一)


搜尋演算法(篇二)
學習總結:區域性搜尋
模擬退火演算法

進化演算法

遺傳演算法詳解(GA)(個人覺得很形象,很適合初學者)
遺傳演算法入門到掌握(一)
遺傳演算法入門到掌握(二)
一文讀懂遺傳演算法工作原理(附Python實現)
智慧演算法—蟻群演算法介紹
蟻群演算法(獨闢蹊徑的進化演算法)
粒子群演算法(1)----粒子群演算法簡介
粒子群演算法(2)----標準的粒子群演算法
粒子群演算法(3)----標準的粒子群演算法(區域性版本)

神經網路規劃

綜合

優化搜尋演算法:爬山法,模擬退火演算法,遺傳演算法-Python實現
元啟發式演算法網站

圖論

基礎

基礎筆記:圖的一些概念
圖論基本定義和術語
並查集——求無向圖的所有連通子圖
演算法導論–最小生成樹(Kruskal和Prim演算法)
Clustering coefficient的計算

社群發現

標籤傳播演算法(Label Propagation)及 Python 實現

演算法設計

基礎

演算法(一)時間複雜度

查詢演算法

從B樹、B+樹、B*樹談到R 樹

綜合

CS 97SI: Introduction to Programming Contests

DFS與BFS

資料結構和演算法總結(一):廣度優先搜尋BFS和深度優先搜尋DFS
回溯法和分支定界法
演算法複習筆記(回溯法,分支限界法)

規劃演算法

漫畫:什麼是動態規劃?
《面試–動態規劃》 —五種經典的演算法問題

分治演算法

演算法設計(二):分治
五大常用演算法之一:分治演算法