數學優化與凸集4（斯坦福凸優化筆記4）

1 分離與支撐超平面

（圖片來自斯坦福Boyd Convex Optimization）
假設C和D是兩個不相交的凸集，那麼一定存在a≠0的超平面aTx=b將凸集分隔開，使C中點滿足aTx≤b,而D中點滿足aTx≥b。注意，逆定理能被超平面分離說明不相交是不成立的。
嚴格分離：如果存在a≠0的超平面aTx=b將凸集分隔開，使C中點滿足aTx<b,而D中點滿足aTx>b，我們稱超平面將凸集嚴格分離。對於不相交的凸集來說，不一定能被嚴格分離，但是通常是可以構造出嚴格分離的。
支撐超平面
（圖片來自斯坦福Boyd Convex Optimization）
設C⊆Rn而x0是其邊界bd

C上一點，若a≠0，並且對於任意x∈C滿足aTx≤aTx0，那麼稱超平面{x∣aTx=aTx0}為集合C在x0點處的支撐超平面。（有點像切線的感覺）對於任意非空的凸集邊界上任意一點一定存在支撐超平面。

2 對偶錐

令K是一個錐，集合K∗={y∣xTy≥0,∀x∈K}，稱為K的對偶錐。K∗是一個錐，而且總是凸的，即使K不是凸錐。

（圖片來自斯坦福Boyd Convex Optimization）
我們從幾何角度來看看對偶錐。對偶錐的幾何意義如下：
對於左圖，如果認為y是內法向量，那麼y一側的半平面包含K,所以y在對偶錐K∗裡。
對於右圖，如果認為z是內法向量，那麼z一側的半平面不包含K

,所以z不在在對偶錐K∗裡。

所以，我們很容易得到，對偶錐的範圍實際就是上圖陰影所示的範圍。（很像初中幾何的，這個錐的兩條邊和K的兩條邊相互垂直，所以夾角和K互補）
下面舉幾個常見對偶錐的例子：
K=Rn+,K∗=Rn+
K=Sn+,K∗=Sn+
這種情況我們稱為錐自對偶。
範數錐的對偶：
K={(x,t)∣∥x∥2≤t}
K∗={(x,t)∣∥x∥2≤t}

K={(x,t)∣∥x∥1≤t}
K∗={(x,t)∣∥x∥∞≤t}
關於錐的對偶還有一個重要的性質：
如果K是一個正常錐，那麼K∗也是一個正常錐。進一步有K∗∗=K

最小元的對偶性質
我們首先考慮最小元的性質。x

是S上關於廣義不等式⪯K的最小元的充要條件是，對於所有λ≻K

數學優化與凸集4（斯坦福凸優化筆記4）

1 分離與支撐超平面

2 對偶錐

數學優化與凸集4（斯坦福凸優化筆記4）

Deep Learning 3_深度學習UFLDL教程：預處理之主成分分析與白化_總結（斯坦福大學深度學習教程）

Quartz與Spring集成（二）

Sharding-Sphere 3.X 與spring與mybatis集成（分庫分表）demo

Mybatis與Spring集成（易百教程）

【機器學習-斯坦福】學習筆記4 ——牛頓方法;指數分佈族; 廣義線性模型（GLM）

cnpm install -S 與cnpm install -D （dependencies和devDependencies的區別）

smtplib與email模塊（實現郵件的發送）

BZOJ 4443 [Scoi2015]小凸玩矩陣（二分答案+二分圖匹配）

etcd 單機集群（靜態無發現無證書）

Android 音頻采集——MediaRecord（編碼後錄影文件）、AudioRecord（PCM原始數據）

C#語言中數組與集合的區別（以List集合為例）

Linux系統備份還原工具4（rsync/數據同步工具）

ubuntu 12.04 簡單配置samba服務，實現主機與虛擬機互通（設置Windows虛擬盤）

達內-靜態路由與浮動靜態路由-（配圖詳解版）

專業性體育平臺——虎撲的發展與創新的思考（第五次課後作業）

部署mysql高可用集群（第三方軟件 + 主從同步）mysql-mmm

corosync+pacemaker配置高可用集群（需要額外安裝crm工具）

影像采集-拍照（用自己的插件）簡單邏輯

TCP/IP 學習 --- 4（linux網絡基礎api）

數學優化與凸集4（斯坦福凸優化筆記4）

1 分離與支撐超平面

2 對偶錐

相關推薦