1. 決策樹：是一個預測模型。他代表俄是對象屬性與對象之間的一種映射關系。樹中每個節點表示某個對象，而每個分叉路徑則代表某個可能的屬性值，每個葉節點對應從根節點到該葉節點所經歷的路徑所表示的對象的值。
2. 條件概率：就是事件A在另外一個事件B已經發生的情況下的發生概率。條件概率表示為P（A|B），讀作“在B條件下A的概率”。
3. 感知機：它被視為是一種最簡單的前饋神經網絡，是一種二元線性分類器。
4. 前饋神經網絡：最簡單的人工神經網絡模型。在它內部參數從輸入層向輸出層單向傳播。
5. 特征：將現實生活中的事物的部分特點提取並抽象出一種數學或物理模型。
6. 特征粒度：提取特征的維度。
7. BP算法（反向傳播算法）：是一種監督學習算法，常被用來訓練多層感知機，利用反向傳播原理修正權值。
8. 自動編碼器（AE）： 自動編碼器就是一個運用了反向傳播進行無監督學習的神經網絡，學習的目的是為了讓輸出之和輸入值相等。
9. RBM（限制波茲曼機）：是一種可通過輸入數據集學習概率分布的隨機生成神經網絡。
10. 概率模型：是用來描述不同隨機變量之間關系的模型，通常情況下刻畫了一個或多個隨機變量之間的互相非確定性的概率關系。
11. 能量模型（EBM）：基於能量的模型，把我們關系的變量的各種組合和一個標量能量聯系在一起。我們訓練模型的過程就是不斷改變標量能量的過程。
12. DBN（深度信度網絡）：通過自底向上組合多個RBM可以構建一個DBN，利用非監督貪心逐層訓練算法，解決深層結構相關的優化問題。
13. CNN（卷積神經網絡/ConvNets）：是一種前饋神經網絡，他的人工神經元可以響應一部分覆蓋範圍內的周圍單元，對大型圖像處理有出色表現。
14. 概率圖：是一種使用圖來表達隨機變量至建安條件獨立性的概率模型。
15. 貝葉斯定律：事件A在事件B發生的條件下的概率。
16. SVM（支持向量機）：監督學習方法，屬於一般化線性分類器。這種分類器的特點是它們能夠同時最小化經驗誤差與最大化幾何邊緣區，因此支持向量機也被成為最大邊緣區域分類器。

深度學習基本術語