Chapter 1 Introduction
1、AI深度學習(Deep Learning):讓計算機從經驗中學習,並根據層次化的概念體系來理解世界,而每個概念則通過與某些相對簡單的概念之間的關係來定義。
2、AI的一個關鍵挑戰:將非形式化的知識傳達給計算機。
3、知識庫(knowledge base):將關於世界的知識用形式化的語言進行硬編碼(hardcode),計算機再使用邏輯推理規則來自動理解這些形式化語言中的宣告,但最終的結果並不好。
4、機器學習(Machine Learning):AI系統需要具備自己獲取知識的能力,從原始資料中提取模式的能力。
5、表示學習(Representation Learning):許多人工智慧的任務都可以通過“先提取一個合適的特徵集,然後將這些特徵提供給簡單的機器學習演算法”來解決,但是對於很多工來說,我們很難知道應該提取
哪些特徵。解決這個問題的途徑之一就是使用機器學習來發掘“表示”本身,而不僅僅把表示對映到輸出。
Typical Example:自編碼器(autoencoder)=編碼器(encoder)函式+解碼器(decoder)函式。其中編碼器函式將輸入資料轉換為一種不同的表示,而解碼器函式將新的表示轉換到原來的形式。我們期望
輸入資料經過編碼器和解碼器之後儘可能多地保留資訊,同時希望新的標識有各種好的特性。
6、度量模型深度的兩種主要方式:①基於評估架構所需執行的順序指令的數目 ②用於深度概率模型中,不是將計算圖的深度視為模型深度,而是將描述概念彼此如何關聯的圖的深度視為模型深度。
7、AI技術的包含關係:深度學習 deep learning(如多層感知機MLPs)<表示學習 representation learning(如shallow autocoders)<機器學習 machine learning(如logistic regression)<人工智慧 AI(如
knowledge bases)
8、深度學習的歷史趨勢:
①深度學習歷史悠久豐富,但隨著許多不同哲學觀點的漸漸消逝,與之對應對的名稱也漸漸塵封;
②隨著可用的訓練資料量不斷增加,深度學習變得更加有用;
③隨著時間的推移,針對深度學習的計算機軟硬體基礎設施都有所改善,深度學習模型的規模也隨之增長;
④隨著時間的推移,深度學習已經解決日益複雜的應用,並且精度不斷提高。
&n