重磅:KKT條件
阿新 • • 發佈:2018-12-20
KKT條件主要涉及凸優化問題,學習SVM的時候求解拉格朗日函式的對偶問題時,需要使用KKT條件來得到最終的。
1、對於無約束問題(unconstrained minimization):
1) 一階必要條件為:
2) 二階必要條件為:
即Hessian半正定
2、等式約束問題(Equality constraints):
原問題為:
為目標函式,為約束條件
eg:
當時,即和共線,在此處可到最優解(在約束條件的邊界上)。
1)
2) 優化問題的拉格朗日函式為:
3) 存在最優解的條件為:
等價於
3、不等式約束問題(Inequality constraints):
原問題:
對於不等式約束來說有兩種情況:
1)第一種情況是約束條件的影象在內部:
eg:
由於在的內部,此時最優解在他們的原點,這種情況可看成是無約束問題
2)第二種情況為:約束條件的區域與重疊
eg:
與影象有重疊,最終的最優解在約束條件的邊界上取得
原問題的拉格朗日函式為:
因此有:
綜上可得到KKT條件為:
注:稱為互補鬆弛條件