1. 程式人生 > >我的人工智慧之旅——微積分基礎

我的人工智慧之旅——微積分基礎

1.導數

從一元函式影象上看,某一點的導數,即曲線在該點的切線。

一個函式在某一點的導數,描述了這個函式在這一點附近的變化率。

當函式f(x)的自變數,在一點x上產生了一個增量h,若因變數的增量與自變數h的比值,在h趨於0時的極限如果存在,那該比值即為f(x)在點x處的導數。

這裡要注意一下幾點

(1)不是所有的函式都是可導的。

(2)可導的函式一定是連續的。

(3)不連續的函式一定不可導。

2.偏導數

3.凸凹函式

函式f(x)在某一區間上是連續的。若在該區間內的任意兩點x_1x_2,其中x_1< x_2,使得

f(px_1+qx_2)\geq f(px_1)+f(qx_2)成立,

其中p+q=1,那麼,我們稱函式f(x)是該區域上的凸函式。

相反,若使得

f(\lambda x_1+(1-\lambda ))x_2)\leq f(\lambda x_1)+f((1-\lambda )x_2)成立,

那麼,我們稱函式f(x)是該區域上的凹函式。

例如,\lambda =\frac{1}{2}時,

連續函式f(x)稱為凸函式的條件為:

f(\frac{x_1+x_2}{2})\geq\frac{f(x_1)+f(x_2)}{2}

即,由點f(x_1)與點f(x_2)連成的線段的中心點,位於點f(\frac{x_1+x_2}{2})的下方。

連續函式f(x)稱為凹函式的條件為:

f(\frac{x_1+x_2}{2})\leq \frac{f(x_1)+f(x_2)}{2}

即,由點f(x_1)與點f(x_2)連成的線段的中心點,位於點f(\frac{x_1+x_2}{2})的上方。

若連續函式f(X)在某一區間內,即非凸函式,又非凹函式,那麼連續函式f(x)在該區域會存在多個區域性最小值(波谷),或多個區域性最大值(波峰)。