1. 程式人生 > >常用矩陣向量求導公式

常用矩陣向量求導公式

在推導機器學習的迭代更新公式過程中進場需要用到矩陣或者向量的求導操作,很多求導公式經常會忘,因此這裡Mark一下,方便後面自己查閱方便。

直接包含求導向量的公式

dxTdx=IdxdxT=IdxTAdx=AdAxdx=ATdAxdxT=AdxAdx=ATdxTxdx=2xdxTAxdx=(A+AT)x

分配率公式

uxT=(uTx)TuTvx=uTxv
+vTxuT
uvTx=uxvT+uvTx

矩陣求導公式

ABx=AxB+ABxuTXvX=uvTuTXTXuX=2XuuT[(Xuv)T(Xuv)]X=2(Xuv)uT