背景

**
問題的背景是從大量資料中求出迴歸方程，常用的方法就是找出誤差最小的w（存放回歸係數的向量）。一般採用的方法是下圖即平方誤差（這裡X是n*p的矩陣，y是n*1的結果向量，w便是p*1的迴歸係數向量），求和公式是誤差項的平方值，我們需要做的就是取求和公式最小值下的w

用矩陣表示還可以寫作

下面也就是對上述公式進行求導，令其導數等於0，所得w即為最優迴歸引數

**

求導過程

**
敲公式太麻煩就放了張手寫圖

1-4步涉及到了矩陣求導知識和分子佈局、分母佈局兩種不同的規定格式（具體見wiki）

1.先將分子展開成四項，然後就可以對四個部分分別進行求導（累加後求導等於求導後累加）
2
 
.步驟1中的分子為標量（1*n向量與n*1向量），屬於表格中第一種情形，即分子為標量分母為向量，因此求導結果為0
3.同樣，步驟2，3中對應表格第3行，步驟4對應表格的第11行。但是涉及到不同的佈局最後的表現形式也不同，如本次採用的是分母佈局（也就是行向量和列向量的表示區別）

**

佈局約定

**

這裡引用第三個連線中對wiki中矩陣求導的翻譯