深度學習--概率圖模型(一)
這份資料看了好幾遍了,終於有點知識框架了,總結一下,方便以後檢視。
一、概率圖模型(PGM)引入:
在實際應用中,變數之間往往存在很多的獨立性假設或近似獨立,隨機變數與隨機變數之間存在極少數的關聯。PGM根據變數之間的獨立性假設,為我們提供瞭解決這類問題的機制,PGM是以概率論以及圖論為基礎,通過圖的結構將概率模型視覺化,讓我們能夠了解到複雜分佈中的變數之間的關係,也把概率上的複雜計算過程理解為在圖上進行資訊傳遞的過程,所以不必要過多的在意複雜的表示式計算。
二、PGM體系框架
三、生成模型與判別模型
今天先記錄生成模型與判別模型,下次部落格正式進入PGM。
1、概率模型
2、生成模型的目標是求聯合概率分佈P(X,Y),然後由條件公式求取條件概率分佈P(X|Y)。即P(X|Y) = P(X,Y) / P(X)。
3、判別模型是由訓練資料直接求取決策函式Y=f(x)或者條件分佈P(X|Y)。它並不需要關心X與Y之間的生成關係,它關心的是對於給定輸入X應該得到怎麼樣的輸出Y。
4、機器學習大部分模型都是判別模型,判別模型得到條件概率或者決策函式直接用於預測,準確率會更高;而生成模型用於資料預測,所以它的應用領域會更加廣泛。
四、進入圖
感覺一次也不要總結太多,一下消化不了,預告一次部落格的精彩內容
相關推薦
深度學習--概率圖模型(一)
這份資料看了好幾遍了,終於有點知識框架了,總結一下,方便以後檢視。 一、概率圖模型(PGM)引入: 在實際應用中,變數之間往往存在很多的獨立性假設或近似獨立,隨機變數與隨機變數之間存在極少數的關聯。PGM根據變數之間的獨立性假設,為我們提供瞭解決這類問題的機制,PGM
機器學習 —— 概率圖模型(馬爾科夫與條件隨機場)
種類 方向 方法 所有 href 個人 tro 傳遞 很好 機器學習 —— 概率圖模型(馬爾科夫與條件隨機場) 再一次遇到了Markov模型與條件隨機場的問題,學而時習之,又有了新的體會。所以我決定從頭開始再重新整理一次馬爾科夫模型與條件隨機場。 馬
深度學習論文翻譯解析(一):YOLOv3: An Incremental Improvement
cluster tina ble mac 曾經 media bject batch 因此 原標題: YOLOv3: An Incremental Improvement 原作者: Joseph Redmon Ali Farhadi YOLO官網:YOLO: Real-Tim
深度學習之物體檢測(一)R-CNN
作者Rgb 在這之前大部分物體檢測演算法都是基於傳統的影象處理方法,這是第一篇將深度學習用到物體檢測上的文章,直接影響是2012年ALEXNET在比賽中的重大成功。 簡單來說,RCNN使用以下四步實現目標檢測: a. 在影象中用slective search 方法 確定
斯坦福CS224N_自然語言處理NLP深度學習DL課程筆記(一)
Lecture 1: Introduction pdf 本節課是對自然語言處理的定義介紹和應用介紹,還順帶說了NLP的難點; 本節課使用深度學習作為NLP的主要處理工具。 傳統的機器學習技術,需要人為地去做特徵工程,將這些的特徵餵給機器學期演算法;然後機器學習演
深度學習分散式訓練實戰(一)
本系列部落格主要介紹使用Pytorch和TF進行分散式訓練,本篇重點介紹相關理論,分析為什麼要進行分散式訓練。後續會從程式碼層面逐一介紹實際程式設計過程中如何實現分散式訓練。 常見的訓練方式 單機單卡(單GPU) 這種訓練方式一般就是在自己筆記本上,窮學生專
深度學習入門logistic迴歸(一)
Logistic迴歸(一) 如果我們想要識別照片裡是不是貓: 首先需要知道的是一幅圖片是由畫素點組成的,這些畫素點組成三維的矩陣,分別表示了R、G、B三個二維的畫素矩陣,這三個二維矩陣有著同樣的大小,假設是ixj。將這些畫素寫入一個一維的矩陣X中x=[
【深度學習】線性迴歸(一)原理及python從0開始實現
文章目錄 線性迴歸 單個屬性的情況 多元線性迴歸 廣義線性模型 實驗資料集 介紹 相關連結 Python實現 環境 編碼
【深度學習】Softmax迴歸(一)概念和原理
文章目錄 概述 Softmax Softmox迴歸模型 向量形式 Softmax運算 交叉熵損失函式 真實標籤的變換 平方損失函式 交叉熵損失函式
java深度學習框架Deeplearning4j實戰(一)BP神經網路分類器
1、Deeplearning4j 深度學習,人工智慧今天已經成了IT界最流行的詞,而tensorflow,phython又是研究深度學習神經網路的熱門工具。tensorflow是google的出品,而phython又以簡練的語法,獨特的程式碼結構和語言特性為眾多資料科學家和
基於深度學習的視訊檢測(一)
一、簡介 影象目標檢測任務在過去幾年深度學習的發展背景下取得了巨大的進展,檢測效能得到明顯提升。但在視訊監控、車輛輔助駕駛等領域,基於視訊的目標檢測有著更為廣泛的需求。由於視訊中存在運動模糊,遮擋,形態變化多樣性,光照變化多樣性等問題,僅利用影象目標檢測技術檢
深度學習之路:(一)Keras中mnist資料集測試
Keras環境搭建 本地環境 MacOS 一、安裝Anaconda 1、下載Anaconda最新版本:官網下載地址 附:清華映象源 2、下載後直接安裝,點選next 3、檢測版本 開啟終端 輸入conda -
深度學習之softmax函式(一)
本文關於深度學習的softmax函式做了詳細的介紹,並給出深度學習中損失函式的對比連結。 一、Softmax詳解 二、Logistic函式 Logistic函式又稱邏輯斯諦函式,也就是經常說的sigmoid函式,它的幾何形狀也就是一
深度學習與TensorFlow實戰(一)深度學習基本概述
傳統的機器學習演算法例如SVM、Boosting、最大熵、LR都屬於淺層的機器學習模型,這些模型只有一層隱藏節點,或者沒有隱藏節點(LR),其侷限在於有限樣本和計算單單元對複雜函式的表示能力有限,泛化能力的侷限性也較大。深度學習可以通過學習深層非線性網路結構,實
概率圖模型(PGM):貝葉斯網(Bayesian network)初探
1. 從貝葉斯方法(思想)說起 - 我對世界的看法隨世界變化而隨時變化 用一句話概括貝葉斯方法創始人Thomas Bayes的觀點就是:任何時候,我對世界總有一個主觀的先驗判斷,但是這個判斷會隨著世界的真實變化而隨機修正,我對世界永遠保持開放的態度。 1763年,民間科學家Thomas Bayes發表
《機器學習》 周志華學習筆記第十四章 概率圖模型(課後習題)python實現
一、基本內容 1.隱馬爾可夫模型 1.1. 假定所有關心的變數集合為Y,可觀測變數集合為O,其他變數集合為R, 生成式模型考慮聯合分佈P(Y,R,O),判別式模型考慮條件分佈P(Y,R|O),給定一組觀測變數值,推斷就是要由P(Y,R,O)或者P(Y,R|O)得到條件概率分佈P(Y,
深度學習數學基礎介紹(二)概率與數理統計
特征 數字特征 抽樣分布 第5章 最大 中心 3.4 獨立 知識 第1章 隨機事件與概率§1.1 隨機事件§1.2 隨機事件的概率§1.3 古典概型與幾何概型§1.4 條件概率§1.5 事件的獨立性 第2章 隨機變量的分布與數字特征§2.1 隨機變量及其分布§2.2 隨機變
20180813視頻筆記 深度學習基礎上篇(1)之必備基礎知識點 深度學習基礎上篇(2)神經網絡模型視頻筆記:深度學習基礎上篇(3)神經網絡案例實戰 和 深度學習基礎下篇
計算 概念 人臉識別 大量 png 技巧 表現 lex github 深度學習基礎上篇(3)神經網絡案例實戰 https://www.bilibili.com/video/av27935126/?p=1 第一課:開發環境的配置 Anaconda的安裝 庫的安裝 Windo
Coursera概率圖模型(Probabilistic Graphical Models)第一周編程作業分析
期望 and find 不同的 列表 mali 一周 模型 course Computing probability queries in a Bayesian network 計算貝葉斯網絡中的概率查詢 1.基礎因子操作 作業中因子的結構 phi =
Coursera概率圖模型(Probabilistic Graphical Models)第四周編程作業分析
map tel ica join 正常 最大化 expected 聯合 else Decision Making 作決策 這一周的內容在老版本的CS228課程中,是作為第六周的一個小節講的(老版本的CS229只有9周的課程),而在概率圖模型的教材裏邊對應的是第22章