1. 論文資訊

論文題目：End-to-end representation learning for Correlation Filter based tracking
論文出處：CVPR 2017
論文作者：Jack Valmadre，Luca Bertinetto等人
論文主頁：http://www.robots.ox.ac.uk/~luca/cfnet.html
原始碼連結：https://github.com/bertinetto/cfnet

2. 濾波器求解——論文公式(7)推導過程

2.1 最優化求解

首先，定義最優化問題

argminw12n∥∥XTw−y∥∥2

+λ2∥w∥2(1)$$\begin{array}{}\text{(1)}& \underset{\mathbf{w}}{\arg min}\frac{1}{2n}{\Vert {\mathbf{X}}^T\mathbf{w}-\mathbf{y}\Vert }^2+\frac{\lambda }{2}{\Vert \mathbf{w}\Vert }^2\end{array}$$
其中，w$\mathbf{w}$表示待求解的濾波器，n$n$表示樣本數目，y$\mathbf{y}$表示樣本標籤。
現在，我們將公式(1)換一種方式進行表述，定義r=XTw−y$\mathbf{r}={\mathbf{X}}^T\mathbf{w}-\mathbf{y}$，那麼最優化問題為
argminw,r12n∥r∥2+λ2∥w∥2s.t.r=XTw−y(2)$$\begin{array}{}\text{(2)}& \begin{array}{l}\underset{\mathbf{w},\mathbf{r}}{\arg min}\frac{1}{2n}{\Vert \mathbf{r}\Vert }^2+\frac{\lambda }{2}{\Vert \mathbf{w}\Vert }^2\\ s.t.\mathbf{r}={\mathbf{X}}^T\mathbf{w}-\mathbf{y}\end{array}\end{array}$$
從公式(2)開始，利用拉格朗日乘子法進行優化，具體可以參考Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers一書中Chapter 2.1 Dual Ascent中的描述（PDF連結：https://web.stanford.edu/~boyd/papers/pdf/admm_distr_stats.pdf），首先構建拉格朗日表達式：
L(w,r,v)=12n∥r∥2+λ2∥w∥2+vT(r−XTw+y)(3)$$\begin{array}{}\text{(3)}& L\left(\mathbf{w},\mathbf{r},\mathbf{v}\right)=\frac{1}{2n}{\Vert \mathbf{r}\Vert }^2+\frac{\lambda }{2}{\Vert \mathbf{w}\Vert }^2+{\mathbf{v}}^T\left(\mathbf{r}-{\mathbf{X}}^T\mathbf{w}+\mathbf{y}\right)\end{array}$$

其中v$\mathbf{v}$是拉格朗日乘數，這樣，將損失函式進行梯度求解，首先對w$\mathbf{w}$求偏導數，得