我的人工智慧之旅——微積分基礎
1.導數
從一元函式影象上看,某一點的導數,即曲線在該點的切線。
一個函式在某一點的導數,描述了這個函式在這一點附近的變化率。
當函式f(x)的自變數,在一點x上產生了一個增量h,若因變數的增量與自變數h的比值,在h趨於0時的極限如果存在,那該比值即為f(x)在點x處的導數。
這裡要注意一下幾點
(1)不是所有的函式都是可導的。
(2)可導的函式一定是連續的。
(3)不連續的函式一定不可導。
2.偏導數
3.凸凹函式
函式f(x)在某一區間上是連續的。若在該區間內的任意兩點,,其中,使得
成立,
其中,那麼,我們稱函式f(x)是該區域上的凸函式。
相反,若使得
成立,
那麼,我們稱函式f(x)是該區域上的凹函式。
例如,時,
連續函式f(x)稱為凸函式的條件為:
即,由點與點連成的線段的中心點,位於點的下方。
連續函式f(x)稱為凹函式的條件為:
即,由點與點連成的線段的中心點,位於點的上方。
若連續函式f(X)在某一區間內,即非凸函式,又非凹函式,那麼連續函式f(x)在該區域會存在多個區域性最小值(波谷),或多個區域性最大值(波峰)。
相關推薦
我的人工智慧之旅——微積分基礎
1.導數 從一元函式影象上看,某一點的導數,即曲線在該點的切線。 一個函式在某一點的導數,描述了這個函式在這一點附近的變化率。 當函式f(x)的自變數,在一點x上產生了一個增量h,若因變數的增量與自變數h的比值,在h趨於0時的極限如果存在,那該比值即為f(x)在點x處的導數。
我的人工智慧之旅——基本數學基礎
1.自然常數 自然常數e,為無限不迴圈小數,數值約為2.71828...,其數學定義為,即。 2.冪&指數 冪(power),是指乘方運算的結果。是指x個a相乘,稱為a的x次冪。其中,a為底數,x為指數。 指數運算,也稱為冪運算。常用的冪運算公式如下: (1) (
我的人工智慧之旅——線性代數基礎
1.矩陣 矩陣,matrix,為m行n列的資料陣列。例如下例,為4x3階矩陣。 2.方陣 mxn階矩陣的m=n時,稱為方陣,n階方陣。 3.單位矩陣 單位矩陣,是指對角線資料為1,其它資料為0的n階方陣。 4.逆矩陣 逆矩陣,matrix inver
我的人工智慧之旅——概率統計基礎(更新中)
偏差體現的是,學習演算法的期望預測與真實結果的偏離程度。通常出現在欠擬合的情況下。 方差體現的是,同樣大小的訓練集的變動所導致的學習效能的變化。通常出現在過擬合的情況下。訓練效果不錯,但測試效果不好。 數學期望,即平均值。公式為 方差是指,每個樣本值與全體樣本值的平均數
我的人工智慧之旅——近鄰演算法KNN(K-Nearest Neighbor)
在影象識別中,影象分類是首要工作。因為需要將不同型別的影象先進行排除。近鄰演算法是最簡單的演算法之一,但由於其弊端的存在,本篇只做瞭解性的簡單介紹, K近鄰演算法的實質 將測試圖片在已經分類好的,具有不同標籤的訓練資料圖片中,找到K張最相似的圖片,進而根據K張圖片中型別的比例大小,推斷圖
我的人工智慧之旅——神經網路
神經元,neuron 神經網路,Neural Networks 啟用函式,activation function 權重,weight 輸入層,input layer 輸出層,output layer 隱藏層,hidden layer 向前傳播,forward prop
我的人工智慧之旅——正則化
無論線性迴歸,還是邏輯迴歸,都需要對假設函式進行設定。而假設函式的設定,將影響到預測結果的準確性。因此,如何判斷假設函式是否合適,以及如何修改假設函式將變得十分重要。本文,我們將記錄假設函式的正則化。在記錄的過程當中,將涉及以下概念。 (1)過度擬合,overfitting (2)欠擬合
我的人工智慧之旅——梯度下降vs正規方程法
本文將涉及以下知識點 (1)特徵縮放 (2)均值歸一化 (3)正規方程 優化梯度下降演算法 在上一篇博文中,我們瞭解了梯度下降演算法,它為解決線性迴歸問題提供了思路。但梯度下降的迭代推算過程,較為耗時。簡單地說,整個演算法是一個不斷嘗試收斂的過程。如果能夠降低演算法的嘗試次數
我的人工智慧之旅——邏輯迴歸
本文,將涉及以下知識點, (1)決策邊界,decision boundary (2)凸函式,convex function (3)非凸函式,non convex function 此前所討論的問題,都為線性迴歸問題。本文將介紹邏輯迴歸演算法,該演算法為分類問題提出解決方
我的人工智慧之旅——線性迴歸
本文將涉及以下知識點 (1)線性關係 (2)線性迴歸 (3)假設函式 (4)代價函式 (5)學習速率 (6)梯度下降 (7)特徵向量 相關的線性代數或微積分知識,可參照另兩篇博文 我的人工智慧之旅----線性代數基礎知識 我的人工智慧之旅----微積分基礎
我的人工智慧之旅——引子
人工智慧 不想人云亦云,於是來刨別家祖墳,一探究竟。 人工智慧,一個熱得不知所措的話題。就跟當年的“雲”一樣,聊得臭大街了,但什麼是雲?就想把你繞暈,其實都在雲裡霧裡。 人工智慧,artificial intelligence,縮寫AI。由於命名的開放性,使得其定義輪廓較為模糊。簡單
我的人工智慧之旅——偏斜類問題
偏斜類問題 正樣本數佔樣本總數的比例極小時,容易出現偏斜類問題。 例如癌症測試。樣本集合中僅有0.5%的癌症樣本,99.5%的正常樣本。通過某一假設函式後,得到1%為癌症患者,99%為正常樣本。雖然總的正確率高達99%,但假設函式並不理想。因為,我們的目的是為了,檢測出是
Python之旅-Python基礎4-數據類型
都是 指定 hello double 裏的 移除 空間 class 字符數組 1. 數字 2是一個整數的例子。長整數不過是大一些的整數,3.23和52.3E-4是浮點數的例子。E標記表示10的冪。在這裏,52.3E-4表示52.3 * 10-4. (-5+4j)和(2.3-
CSS之旅:前端基礎之CSS
dot bms 布局 兩個 vbr 元素定位 padding 占滿 one CSS(Cascading Style Sheet,層疊樣式表)定義如何顯示HTML元素。 當瀏覽器讀到一個樣式表,它就會按照這個樣式表來對文檔進行格式化(渲染)。 CSS語
Java爬坑之旅:基礎篇
1.方法有返回值時儘量把返回值寫上,儘量避免不必要的坑。例如陣列的擴容中
Koa2學習之旅----koa基礎
npm i koa 伺服器啟動檔案 const Koa = require('koa'); // 熱過載: supervisor npm i -g supervisor // npm i supervisor supervisor app.js 客戶端從發請求到看到內容 伺服器
人工智慧之旅
0811 控制科學與工程 081101 控制理論與控制工程 081102 檢測技術與自動化裝置 081103 系統工程 081104 模式識別與智慧系統 081105 導航、制導與控制 第一步先決定考研考模式識別與智慧控制的方向。研究生課程有下面幾種: 隨機過程與數理統計,矩陣論,優化理論
我的前端之旅第一彈--SeaJs基礎和spm編譯工具運用[圖文]
1. 概述 本文章來源於本人在專案的實際應用中寫下的記錄。因初期在安裝和使用Seajs和SPM的時候,有點不知所措的經歷。為此,我們編寫本文件,通過圖文並茂的方式來為大家講解seajs和spm編譯環境的搭建和基本使用方法。 2. 認識SEAJS seajs是一種前端模組化
我的Java開發學習之旅------>Workspace in use or cannot be created, choose a different one.--錯誤解決的方法
原因 tracking size ons create rac 分享 target mono 今天使用Eclipse時,突然卡死了。然後我強制關閉了Eclipse,再又一次打開的時候就報錯了,錯誤例如以下: Workspace in use or cann
我的Android進階之旅------>Android關於Log的一個簡單封裝
eight ron track 100% oid content amp 嚴重 center android.util.Log類,能夠方便地用於在編碼調試過程中打印日誌。可是在公布後的產品中,假設有太多的日誌打印。則會嚴重地影響性能。對android.util.Lo