最近看STRCF演算法，這是一個克服遮擋和大幅形變的實時視覺追蹤演算法。這篇論文的主要貢獻如下：

通過將空間和時間正則化納入 DCF 框架，提出了 STRCF 模型。基於線上 PA 的 STRCF 不僅可以合理地逼近多幅訓練影象上的 SRDCF 形式，而且在較大的外觀變化情況下比 SRDCF 具有更強的魯棒性。

為高效求解 STRCF，開發了一種 ADMM 演算法，其中每個子問題都有封閉形式的解。並且本文提出的演算法可以在非常少的迭代中經驗地收斂。

本文提出的 STRCF 具有人工設計的特徵，可以實時執行，相比 SRDCF 在準確率上有了顯著的提升。此外，STRCF 與最先進的追蹤器 [9，15] 相比，效能良好。

論文中反覆提到STRCF演算法是線上被動攻擊學習(PA）演算法的擴充套件，於是我找來了PA演算法的論文，一篇2006年發表的古老的論文。

問題

符號	表示
$x_t$	n維向量，第t次迴圈中的輸入例項
$y_t$	$x_t$ 對於的類標，取值為+1,-1
$(x_t,y_t)$	例項-類標對，也叫一個示例
w	n維權重向量
$\|w\cdot x\|$	預測置信度
$y_t(w_t\cdot x_t)$	第t次迴圈中（有符號的）邊際利潤

當邊際利潤margin是正數時， $sign(w_t\cdot x_t)=y_t$ ，這時演算法預測正確。然而，我們不滿足於一個正邊際利潤值，我們還希望演算法能有很高的預測置信度。於是，演算法的目標是儘可能經常實現一個最少是1的邊際利潤，在每次迴圈中當邊際利潤小於1時就會有一個瞬間損失。這就是所謂的hinge損失函式：

l (w; (x, y)) = {\begin{cases} 0 & y (w \cdot x) \geq 1 \\ 1 - y (w \cdot x) & o t h e r w i s e \end{cases} (1)

$l(w;(x,y))= \begin{cases} 0& {y(w\cdot x)\ge 1}\\ 1-y(w\cdot x)& {otherwise} \end{cases} (1)$
解釋：當邊際利潤>1時，損失值=0，否則等於1和邊際利潤之間的差值。注意到，選擇1作為邊際閾值其實是相當隨意的。所以後面在解決迴歸問題時，作者又將hinge損失函式推廣到一般化，將這個邊際閾值作為一個使用者輸入的引數。
記

l_{t} = l (w_{t}; (x_{t}, y_{t}))

$l_t=l(w_t;(x_t,y_t))$ ，本文給出的演算法將被證明在給定的示例序列中獲得一個小的累積平方損失，即作者能證明在

\sum_{t = 1}^{T} l_{t}^{2}

$\sum_{t=1}^{T}l_t^2$ 上不同的界限，其中T是序列的長度。注意到當有一個預測錯誤出現時，

l_{t}^{2} \geq 1

$l_t^2\ge 1$ ，因此累積平方損失的界限也限制在示例序列中錯誤預測的數量。

二分類演算法

本節作者給出了二分類問題線上學習演算法的三種變體。這三種變體的 $w_1$ 都初始化為全0向量，區別在於更新規則不同。

PA演算法的更新規則

在第t次迴圈中設定新的權重向量 $w_{t+1}$ 是下一次迴圈中約束優化問題的解，即：

w_{t + 1} = a r g m i n_{w \in R^{n}} \frac{1}{2} | | w - w_{t} | |^{2} s . t . l (w; (x_{t}, y_{t})) = 0 (2)

$w_{t+1}=argmin_{w\in R^n} \frac{1}{2}||w-w_t||^2 s.t. \quad l(w;(x_t,y_t))=0 \quad(2)$
每當

l_{t} = 0

$l_t=0$ 時，則

w_{t + 1} = w_{t}

$w_{t+1}=w_t$ ，這時候演算法是被動性的(passive)。相反的，當

l_{t} > 0

$l_t>0$ 時，儘管有步長要求，演算法還是會攻擊性(aggressively)的迫使

w_{t + 1}

$w_{t+1}$ 滿足約束條件

l (w_{t + 1}; (x_{t}, y_{t})) = 0

$l(w_{t+1};(x_t,y_t))=0$ 。於是作者將這個演算法命名為被動攻擊（Passive-Aggressively，簡稱：PA）。
一方面，我們要求

w_{t + 1}

$w_{t+1}$ 可以對當前示例準確分類，並且取得充分高的邊際利潤；另一方面，

w_{t + 1}

$w_{t+1}$ 要儘可能接近

w_{t}

$w_t$ ，從而能保留之前的迴圈中學習到的資訊。
公式(2)有一個簡單的閉式解形式：

w_{t + 1} = w_{t} + τ_{t} y_{t} x_{t} w h e r e τ_{t} = \frac{l_{t}}{| | x_{t}}

目標追蹤論文之狼吞虎嚥(2):線上被動攻擊學習

問題

二分類演算法

PA演算法的更新規則

目標追蹤論文之狼吞虎嚥(2):線上被動攻擊學習

目標追蹤論文之狼吞虎嚥(5):基於張量的圖嵌入半監督學習及其在判別式目標追蹤的應用

目標追蹤論文之狼吞虎嚥(4):MCCT演算法

目標追蹤論文之狼吞虎嚥(1):VITAL演算法

基於神經網路的目標檢測論文之神經網路基礎：神經網路的優化方法

基於神經網路的目標檢測論文之目標檢測系統：實時路況檢測系統的設計與實現

程式設計師的量化交易之路(2)----Esper文件學習之技術概覽(1)

論文筆記：目標追蹤-CVPR2014-Adaptive Color Attributes for Real-time Visual Tracking

架構師成長之路 2 --架構師必備技能（目標）

小論文之旅（2）——introduction與related work

架構師成長之路(2)--架構師必備技能（目標）

計算機視覺之目標跟蹤——論文Learning to Track at 100 FPS with Deep Regression Networks

目標追蹤演算法KCF（kernelized correlation filters）論文學習筆記

ROS之urdf 2

Scala 學習筆記之集合(2)

Python 之路2

MySql之centos7.2安裝mysql5.7.13

PyTorch學習筆記之Tensors 2

nodejs之express -- 2

Aix之 xmanager 2.0連接AIX服務器

目標追蹤論文之狼吞虎嚥(2):線上被動攻擊學習

問題

二分類演算法

PA演算法的更新規則

相關推薦