1. 程式人生 > 其它 >梯度與方向導數

梯度與方向導數

方向導數定義。函式沿著某個方向的導數\(\underset{\Delta t\rightarrow 0}{\lim}\frac{f\left( x\left( t+\Delta t \right) ,y\left( t+\Delta t \right) \right) -f\left( x\left( t \right) ,y\left( t \right) \right)}{\Delta t}\).

計算方法:先求出對\(x\)方向的偏導數\(f_x\),再求對\(y\)的偏導數\(f_y\). 現在要計算\((a,b)\)方向的方向導數,只需要將\((a,b)\)先歸一化成\((a_0,b_0)\)

,總體的方向導數就變成了\(a_0f_x+b_0f_y\).
梯度定義。對於一個函式\(f(x,y)\),其梯度為\(f_x\vec{i}+f_y\vec{j}\).
梯度是函式增加最大的方向(方向導數最大的方向)。現在相當於是求解這樣的一個優化問題:\(\begin{cases} a_0f_x+b_0f_y\\ s.t. {a_0}^2+{b_0}^2=1\\ \end{cases}\). 而\(a_0f_x+b_0f_y\)可以看成是單位向量\((a_0,b_0)\)和向量\((f_x,f_y)\)的內積,所以當\((a_0,b_0)\)取梯度方向時取得最大值,而\(a_0f_x+b_0f_y\)代表函式變化量\(f\left( x\left( t+\Delta t \right) ,y\left( t+\Delta t \right) \right) -f\left( x\left( t \right) ,y\left( t \right) \right) >0\)
,所以是函式增加最大的方向。