1. 程式人生 > >(Math)矩陣求導

(Math)矩陣求導

前言

本文為維基百科上矩陣微積分部分的翻譯內容。本文為原文的翻譯與個人總結,非一一對照翻譯。由於水平不足理解不夠處,敬請原諒與指出。原文地址https://en.wikipedia.org/wiki/Matrix_calculus。原文為矩陣微積分,本文題為矩陣求導,原因是原文主要介紹的是矩陣微分的內容。

1 簡介

矩陣的微積分本質上是多元變數的微積分的問題,只是應用在矩陣空間上而已。

在討論矩陣微分的時候,有兩種佈局方式,分子佈局,與分母佈局,第2,3部分不關注這個問題,第5部分以後介紹兩種佈局方式。

以下為六種以矩陣形式組織的常見的導數。

型別 標量y 向量y
矩陣Y
標量x yx yx Yx
向量x yx yx
矩陣X yX

其他三種方式並不常用,且符號也沒有統一的認識。

2 符號

  1. 矩陣
    M(n,m)表示nm列的實矩陣,一般使用加粗大寫字母表示,如A,X,Y等。

  2. 向量
    M(n,1)為列向量,一般用小寫加粗表示,如a,x,y等。

  3. 標量
    M(1,1)為標量,一般用小寫斜體表示,如a,x,y等。

  4. 其他
    XT為轉置,tr(X)為跡,det(X)為行列式。字母表前半(a,b,c,)為常量,後半(t,x,y,)

3 關於向量的導數

以分子佈局來介紹,僅出於說明目的,不代表分子佈局優於分母佈局。

3.1 向量關於標量求導

向量y=y1y2ym關於標量x求導可以表示為yx=y1xy2xymx
此時為正切向量yxy的正切向量。注意,有對映y:RmRm

3.2 標量關於向量求導

標量y關於向量x=x1x2xn求導可以表示為yx=[yx1yx2yxn]
此時為梯度向量yx為標量

相關推薦

Math矩陣

前言 本文為維基百科上矩陣微積分部分的翻譯內容。本文為原文的翻譯與個人總結,非一一對照翻譯。由於水平不足理解不夠處,敬請原諒與指出。原文地址https://en.wikipedia.org/wiki/Matrix_calculus。原文為矩陣微積分,

算法系列--LeetCode矩陣島嶼數量

一個N*M的矩陣只有0、1兩種元素,1為陸地0為海洋。相鄰(上下左右四個方向)即為同一塊陸地,輸出矩陣中島嶼數量。 演算法的“廣度優先”還是“深度優先”:     1.廣度:一行一行遍歷記錄島嶼狀態以及島嶼產生與合併情況。     2.深度:從一個節點開始四個方向去尋找

矩陣——矩陣矩陣

參考:https://zhuanlan.zhihu.com/p/24863977 本篇使用小寫字母x表示標量,粗體小寫字母 x \boldsym

矩陣——標量對矩陣

參考:https://zhuanlan.zhihu.com/p/24709748 這部分內容分兩篇整理,上篇講標量對矩陣的求導,下篇講矩陣對矩陣的求導。 本文使用小寫字母x表示標量,粗體小寫字母

矩陣學習筆記

總的來說,涉及矩陣和向量的求導不外乎五大類別,- 向量對標量- 標量對向量- 向量對向量- 矩陣對標量- 標量對矩陣向量對標量求導分子佈局向量y--->標量x求導,我們假定所有的向量都是列向量,在

矩陣

法則 復雜 image 技術 新的 lan 深度學習 ice 真的是 深度學習我認為最核心的被部分,是求導,更新的這個過程! 這裏涉及的矩陣求導,我覺得很復雜,看了很多的方法,記憶法則,真的是越看越不懂! 清華那本書,也是太龐大了。 學習大佬這個矩陣求導術方法,矩陣求導,算

矩陣

矩陣求導術(上) 矩陣求導的技術,在統計學、控制論、機器學習等領域有廣泛的應用。鑑於我看過的一些資料或言之不詳、或繁亂無緒,本文來做個科普,分作兩篇,上篇講標量對矩陣的求導術,下篇講矩陣對矩陣的求導術。本文使用小寫字母x表示標量,粗體小寫字母x 表示向量,

Unity3D之Mecanim動畫系統學習筆記:模型

leg character ... sdk ocs 物體 mat 版本 sset 我們要在Unity3D中使用上模型和動畫,需要經過下面幾個階段的制作,下面以一個人形的模型開發為準來介紹。 模型制作 模型建模(Modelling) 我們的美術在建模時一般會制作一個稱為

java學習10最接近點對問題

sta poi span exti ++ null @override over max 1 import java.util.ArrayList; 2 import java.util.Collections; 3 import java.util.List

JXLS 2.4.0系列教程——循環出一個鏈表的數據

教程 super 最簡 com arraylist port 至少 ron mod 請務必先看上一篇文章,本文在上一篇文章的代碼基礎上修改而成。 JXLS 2.4.0系列教程(一)——最簡單的模板導出 上一篇文章我們介紹了JXLS和模板導出最簡單的應用,現在我們要更進一

Bug管理工具TCE之缺陷入與

-1 選擇 相關配置 isp 系統 軟件 test left 導入   TestCenter Enterprise(簡稱TCE)是由上海澤眾軟件科技有限公司開發的一款面向測試流程的測試生命周期管理工具,可迅速建立完善的測試體系,規範測試流程,提高測試效率與質量,實現對測試的

矩陣

logs log nbsp 圖片 分享圖片 https 矩陣 ima bsp 矩陣求導

ASP.NET MVC5+EF6+EasyUI 後臺管理系統87-MVC Excel入和

.net本文示例代碼下載: 鏈接:http://pan.baidu.com/s/1jHBdgCA 密碼:hzh7ps:Vs數據庫腳本在解壓目錄下,修改web.config數據庫鏈接,示例代碼包含:導入,導出,上傳前言:導入導出實在多例子,很多成熟的組建都分裝了導入和導出,這一節演示利用LinqToExcel組

PCB 4原理圖入PCB

ima mage body 導入 原理圖 bsp 原理 div http 2 自動對齊 PCB (4)原理圖導入PCB

矩陣法則

body com mage 9.png img oat right http 技術 矩陣求導法則

Super Jumping!Jumping!Jumping!HDU_1087(dp最長上升子序列的和)

inf 自己 長度 int ans out clas urn class 傳送門:HDU_1087 題意:現在要玩一個跳棋類遊戲,有棋盤和棋子。從棋子st開始,跳到棋子en結束。跳動棋子的規則是下一個落腳的棋子的號碼必須要大於當前棋子的號碼。st的號是所有棋子中最小的,en

線性迴歸 矩陣

一種方便區別是概率還是似然的方法是,根據定義,"誰誰誰的概率"中誰誰誰只能是概率空間中的事件,換句話說,我們只能說,事件(發生)的概率是多少多少(因為事件具有概率結構從而刻畫隨機性,所以才能談概率);而"誰誰誰的似然"中的誰誰誰只能是引數,比如說,引數等於 時的似然是多少  

2018 藍橋杯省賽 B 組模擬賽-數列

樣例輸入1 1 50.50 25.50 10.15 樣例輸出1 27.85 樣例輸入2 2 -756.89 52.52 172.22 67.17 樣例輸出2 -761.49 #in

演算法設計與分析——動態規劃矩陣連乘

動態規劃——Dynamic programming,可以說是本人一直沒有啃下的骨頭,這次我就得好好來學學Dynamic programming. OK,出發! 動態規劃通常是分治演算法的一種特殊情況,它一般用於最優化問題,如果這些問題能夠: 1.能夠分解為規模更小的子問題 2.遞迴的

弗洛伊德Floyd演算法圖的最短路徑

https://blog.csdn.net/jeffleo/article/details/53349825 弗洛伊德基本思想 弗洛伊德演算法作為求最短路徑的經典演算法,其演算法實現相比迪傑斯特拉等演算法是非常優雅的,可讀性和理解都非常好。 基本思想: 弗洛伊德演算法定義了兩個二維