在諸多優化問題中，優化的變數是一個函式，也就是說需要找到一個函式，使得某個特定的目標最小。

固體力學中的最小勢能原理

處於平衡狀態的彈性體，真實位移場使得系統總勢能取最小值。

基於勢能原理，也發展出了固體力學中的變分解法，也就是求出使得總勢能最小的位移場，該位移就是真實的位移解答。

同樣變分法也可以用於最優控制中，求取控制律，使得系統系統的效能指標最優，而控制律通常是時間的函式。

1. 泛函

泛函其實是挺難理解的概念，首先看微積分中函式的概念。

定義在實數域$R$上的一元函式$y=f(x)$,值域也是實數集$R$，實際上是定義了一種對映關係$f$，$f:~R \to R$

而泛函的定義域並不是數集，而是函式集。

假設函式集合$C$，$\forall y \in C$,$y$的定義域為$[x_0,x_1]$，$y$都為可微函式，且

$y(x_0)=y_0,~y(x_1)=y_1$(1)

也就是說函式幾何$C$中的元素均為平面上從點$A(x_0,~y_0)$到點$~B(x_1,~y_1)$的光滑曲線。

這裡討論泛函$J(y)$的定義域就是函式集合$C$，其值域是實數集$R$。泛函$J(y)$

$J[y(x)]=\int_{a}^{b}F(x,~y,~y')\text{d}x$(2)

2. 泛函變分

函式$y=f(x)$的微分$dy$指的是由於自變數$x \to x+dx$所引起的因變數$y$的變化量$dy=f(x+dx)-f(x)$。

而泛函$J[y(x)]$的變分$\delta$

當$y \to y+\delta y$時，利用多元函式的一階Taylor展開

$F(x,~y+\delta y,~y'+\delta y')=F(x,~y,~y')+\frac{\partial F}{\partial y}\delta y+\frac{\partial F}{\partial y'}\delta y'$(3)

因此，泛函$\delta J$可以表為

$\delta J=\int_{a}^{b} \left[ \frac{\partial F}{\partial y}\delta y+\frac{\partial F}{\partial y'}\delta y' \right]\text{d}x$(4)

3. 泛函極值

函式$y=f(x)$取在$x=x_0$處取極值的必要條件是

$\frac{dy}{dx}\Big|_{x=x_0}=0$

泛函$J[y(x)]$取極值的必要條件是

$\delta J = 0$(5)

$\frac{\partial F}{\partial y}-\frac{\text{d}}{\text{d}x}\left(\frac{\partial F}{\partial y'}\right)=0$(6)

下面證明上述必要條件，證明過程很長，並且有點不嚴謹。

理論上$\delta y$是任意小的函式，可以取$\delta y=\varepsilon \varphi(x)$，$\varepsilon$是任意小的實數，$\varphi(x)$為可微函式，並滿足

$\varphi(a)=0,~\varphi(b)=0$(7)

這樣函式$J[y(x)+\varepsilon\varphi(x)]$是$\varepsilon$的函式，在$\varepsilon=0$處取得極值。因此有

$\frac{\text{d}}{\text{d}\varepsilon}\left(J[y(x)+\varepsilon\varphi(x)]\right)\Big|_{\varepsilon=0}=0$(8)

參考式(3)有

$J[y(x)+\varepsilon\varphi(x)]=J[y(x)]+\int_{a}^{b}\left[\frac{\partial F}{\partial y}\varepsilon\varphi(x)+\frac{\partial F}{\partial y'}\varepsilon\varphi'(x)\right]\text{d}x$(9)

將式(9)帶入式(8)中，

$\frac{\text{d}}{\text{d}\varepsilon}\left(J[y(x)+\varepsilon\varphi(x)]\right)\Big|_{\varepsilon=0}=\int_{a}^{b}\left[\frac{\partial F}{\partial y}\varphi(x)+\frac{\partial F}{\partial y'}\varphi'(x)\right]\text{d}x=0$(10)

再以$\varepsilon$乘以上式有