1. 程式人生 > >為什麼要最大化後驗概率

為什麼要最大化後驗概率

訓練模型時,我們經常先為後驗概率建模,也就是寫出後驗概率的數學表示式,然後求後驗概率的最大值,使得後驗概率最大的那些引數就是訓練結果了。
為什麼最大化後驗概率是有意義的呢?本質上和我們日常生活中的判斷方式是一致的。
舉個例子,我們對一類物體進行分類,類別有c1,c2,c3…等等
我們拿到某個物體x時,怎麼對x進行分類?其實就是判斷p(x,c1),p(x,c2),p(x,c3)…中哪個值最大!比如p(x,c2)最大,那我們就認為當前這個物體的類別是c2。注意到這一判斷過程就是我們常規的思維方式。
本質上我們是根據聯合概率p(x,ci)做出判斷的,如何跟後驗概率聯絡起來?用貝葉斯公式展開!
p(x,ci) = p(ci|x)p(x), 回到上面那個例子,也就是說我們判斷的是p(c1|x)p(x),p(c2|x)p(x),p(c3|x)p(x)…中哪個最大,注意到p(x)相當於常數,所以也就是找出最大的p(ci|x),也就是最大化後驗概率了。