1. 程式人生 > >矩陣求導、幾種重要的矩陣及常用的矩陣求導公式

矩陣求導、幾種重要的矩陣及常用的矩陣求導公式

一、矩陣求導

  一般來講,我們約定x=(x1,x2,...xN)T,這是分母佈局。常見的矩陣求導方式有:向量對向量求導,標量對向量求導,向量對標量求導。

1、向量對向量求導

這裡寫圖片描述

2、標量對向量求導

這裡寫圖片描述
這裡寫圖片描述

3、向量對標量求導

這裡寫圖片描述

二、幾種重要的矩陣

1、梯度(Gradient)

這裡寫圖片描述
這裡寫圖片描述

2、雅克比矩陣(Jacobian matrix)

這裡寫圖片描述
這裡寫圖片描述

3、海森矩陣(Hessian matrix)

這裡寫圖片描述

三、常用的矩陣求導公式

這裡寫圖片描述
這裡寫圖片描述