1. 程式人生 > 其它 >深度學習1(hinton)

深度學習1(hinton)

技術標籤:機器學習神經網路

深度學習

神經元網

一種模仿生物神經網路(動物的中樞神經系統,特別是大腦)的結構和功能的數學模型或計算模型,用於對函式進行估計或近似。

簡單模型

在這裡插入圖片描述

a1~an為輸入向量的各個分量
w1~wn為神經元各個突觸的權值
b為偏置
f為傳遞函式,通常為非線性函式。
t為神經元輸出

演算法三大類

1 .監督學習(Supervised learning)

由訓練資料中學到或者建立一個模式,並依此模式猜測新的例項

訓練資料是由輸入物件(一般是向量)和預期輸出所組成。函式的輸出能夠是一個連續的值(稱為迴歸分析)。或是預測一個分類標籤(稱作分類)。
一個監督式學習者的任務在觀察完一些訓練範例(輸入和預期輸出)後,去預測這個函式對不論什麼可能出現的輸入的值的輸出。

分類、迴歸

2.非監督學習(Unsupervised learning)

無監督式學習(Unsupervised Learning )是人工智慧網路的一種演算法(algorithm)。其目的是去對原始資料進行分類,以便了解資料內部結構。有別於監督式學習網路,無監督式學習網路在學習時並不知道其分類結果是否正確,亦即沒有受到監督式增強(告訴它何種學習是正確的)。其特點是僅對此種網路提供輸入範例。而它會自己主動從這些範例中找出其潛在類別規則。當學習完成並經測試後,也能夠將之應用到新的案例上。

無監督學習裡典型的樣例就是聚類了。聚類的目的在於把相似的東西聚在一起,而我們並不關心這一類是什麼。因此,一個聚類演算法通常僅僅須要知道怎樣計算相似度就能夠開始工作了。

聚類、資料降維

3.半監督學習(Semisupervised learning)

半監督學習的基本思想是利用資料分佈上的模型如果, 建立學習器對未標籤樣本進行標籤。