1. 程式人生 > >生成學習演算法(generative learning algorithms)和判別學習演算法(discriminative learning algorithms)

生成學習演算法(generative learning algorithms)和判別學習演算法(discriminative learning algorithms)

1、 生成學習演算法
例:對惡性腫瘤和良性腫瘤的分類
除了尋找一個將兩類資料區分的直線外,還可以用如下方法:
1)       遍歷訓練集,找到所有惡性腫瘤樣本,直接對惡性腫瘤的特徵建模;同理,對良性腫瘤建模。
2)       對一個新的樣本分類時,即有一個新的病人時,要判斷其是惡性還是良性,用該樣本分別匹配惡性腫瘤模型和良性腫瘤模型,看哪個模型匹配的更好,預測屬於惡性還是良性。
這種方法就是生成學習演算法。
 
兩種學習演算法的定義:
1)       判別學習演算法:
-          直接學習p(y|x),即給定輸入特徵,輸出所屬的類
-          或學習得到一個假設hθ(x),直接輸出0或1
2)       生成學習演算法:
-          對p(x|y)進行建模,p(x|y)表示在給定所屬的類的情況下,顯示某種特徵的概率。處於技術上的考慮,也會對p(y)進行建模。
-          p(x|y)中的x表示一個生成模型對樣本特徵建立概率模型,y表示在給定樣本所屬類的條件下
例:在上例中,假定一個腫瘤情況y為惡性和良性,生成模型會對該條件下的腫瘤症狀x的概率分佈進行建模

-          對p(x|y)和p(y)建模後,根據貝葉斯公式p(y|x) = p(xy)/p(x) = p(x|y)p(y)/p(x),可以計算:p(y=1|x) = p(x|y=1)p(y=1)/p(x),其中,p(x) = p(x|y=0)p(y=0) + p(x|y=1)p(y=1)

參考:

http://blog.csdn.net/xiahouzuoxin/article/details/45223519

1. C++標準模板庫從入門到精通 

2.跟老菜鳥學C++

3. 跟老菜鳥學python

4. 在VC2015裡學會使用tinyxml庫

5. 在Windows下SVN的版本管理與實戰 

7.在VC2015裡使用protobuf協議

8.在VC2015裡學會使用MySQL資料庫


相關推薦

生成學習演算法generative learning algorithms判別學習演算法discriminative learning algorithms

1、 生成學習演算法例:對惡性腫瘤和良性腫瘤的分類除了尋找一個將兩類資料區分的直線外,還可以用如下方法:1)       遍歷訓練集,找到所有惡性腫瘤樣本,直接對惡性腫瘤的特徵建模;同理,對良性腫瘤建模。2)       對一個新的樣本分類時,即有一個新的病人時,要判斷其是惡

聯合概率與聯合分佈、條件概率與條件分佈、邊緣概率與邊緣分佈、貝葉斯定理、生成模型Generative Model判別模型Discriminative Model的區別

在看生成模型和判別模型之前,我們必須先了解聯合概率與聯合分佈、條件概率與條件分佈、邊緣概率與邊緣分佈、貝葉斯定理的概念。 聯合概率與聯合概率分佈: 假設有隨機變數X與Y, 此時,P(X=a,Y=b)用於表示X=a且Y=b的概率。這類包含多個條件且所有條件同時成立的概率稱為聯合概率。聯合概

Hands-on Machine Learning with Scikit-Learn and TensorFlow中文版深度學習原理與TensorFlow實踐-學習筆記

監督學習:新增標籤。學習的目標是求出輸入與輸出之間的關係函式y=f(x)。樸素貝葉斯、邏輯迴歸和神經網路等都屬於監督學習的方法。 監督學習主要解決兩類核心問題,即迴歸和分類。 迴歸和分類的區別在於強調一個是連續的,一個是離散的。 非監督學習:不新增標籤。學習目標是為了探索樣本資料之間是否

python學習--如何實現可叠代對象itearable叠代器iterator

dict 作用 pri 返回 -- 生成器 ble ear item 關於可叠代對象Iterable 和叠代器對象iterator 可叠代對象:可以直接作用於for循環的對象統稱為可叠代對象:Iterable。 可叠代對象包含一個__iter__方法,或__getitem_

Node學習基礎(三) 之檔案的同步非同步寫入操作fs_檔案系統

下面遇到看不懂的可以去看官方文件。 首先引入fs模組 第二步開啟檔案  官方文件格式是這樣  path 檔案路徑  這裡例子裡是FileHello.txt  如果沒有這個檔案 所以他會自動建立 FileHello.txt

機器學習基礎——詞集模型SOW詞袋模型BOW

(1)詞集模型:Set Of Words,單詞構成的集合,集合自然每個元素都只有一個,也即詞集中的每個單詞都只有一個 (2)詞袋模型:Bag Of Words,如果一個單詞在文件中出現不止一次,並統計

資料結構演算法分析之排序篇--歸併排序Merge Sort常用排序演算法時間複雜度比較附贈記憶方法

歸併排序的基本思想 歸併排序法是將兩個或以上的有序表合併成一個新的有序表,即把待排序序列分成若干個子序列,每個子序列是有序的。然後再把有序子序列合併為整體有序序列。注意:一定要是有序序列! 歸併排序例項: 合併方法: 設r[i……n]由兩個有序子表r

機器學習5 正則化的線性迴歸Regularized Linear Regression偏差對方差Bias v.s. Variance

在這篇博文中我們將會實現正則化的線性迴歸以及利用他去學習模型,不同的模型會具有不同的偏差-方差性質,我們將研究正則化以及偏差和方差之間的相互關係和影響。 這一部分的資料是關於通過一個水庫的水位來預測水庫的流水量。為了進行偏差和方差的檢驗,這裡用12組資料進行迴

Java實現演算法導論中圖的廣度優先搜尋BFS深度優先搜尋DFS

對演算法導論中圖的廣度優先搜尋(BFS)和深度優先搜尋(DFS)用Java實現其中的虛擬碼演算法,案例也採用演算法導論中的圖。 import java.util.ArrayList; import java.util.HashMap; import java.util.It

c++使用樸素遞迴演算法自頂向下遞迴動態規劃dp帶備忘的自頂向下,自底向上解決鋼條切割及執行例項結果

本博文資料來源於演算法導論第三版 動態規劃有兩種等價實現方法:帶備忘的自頂向下發(topDownWithMemoization),自底向上方法,付出額外的記憶體空間來節省計算時間,是典型的時空權衡,遞迴時會儲存每個子問題的解 長度n與對應價格p關係 1~10的對應最

科普貼開篇:到底什麼是人工智慧AI、機器學習ML深度學習DL

這兩年創業圈、技術圈、網際網路圈都在熱烈討論人工智慧、機器學習、深度學習,那麼到底什麼是人工智慧(AI)、機器學習(ML)和深度學習(DL),這幾個概念之間又有什麼樣的聯絡呢?先直接把這三者之間關係放上來哈: 機器學習,實現人工智慧的方法;深度學習,實現機器學習的技術; 關於以上三個概念的介紹和解釋: 1

使用maven的mybatis-generator代碼生成器插件生成實體類、mapper配置文件mapper接口使用idea

col 標簽 mage resolv solver dbcc 處理 全部 use 接著之前創建的ssmMaven項目 一: 在pom文件中加入mybatis-generator插件 <plugins> <plugin>

機器學習中:過擬合overfitting欠擬合underfitting

Underfitting is easy to check as long as you know what the cost function measures. The definition of the cost function in linear regression is half the me

android學習筆記 按電源鍵螢幕喚醒螢幕睡眠流程從上層到kernel

一. 螢幕的喚醒       首先inputread在讀取到有keyboard事件上報後,會呼叫到keydispatch的notifykey,去詢問wm是否會對這次按鍵特殊處理,如果WM不處理,則此處會點亮或者熄滅螢幕。      inputReader.cpp      

EF 學習系列二 資料庫表的建立表關係配置Fluent API、Data Annotations、約定

  上一篇寫了《Entity Farmework領域建模方式 3種程式設計方式》,現在就Code First 繼續學習 1、資料庫表的建立 新建一個MVC的專案,在引用右擊管理NuGet程式包,點選瀏覽搜尋EF安裝,我這裡主要是EF6.0 以上的學習 所以都安裝6.0 以上的版本

vxlan vs GRE三層組播二層組播如何對應起來

由器 ams 之間 數據信息 控制 格式 tunnel network 處理 www.huawei.com/ilink/cnenterprise/download/HW_401028 http://feisky.xyz/sdn/basic/vxlan.html 華為的v

用戶user用戶組group相關的配置文件、命令或目錄;

req 相關 sed logout val execute pmo warning cto 1、與用戶(user)和用戶組(group)相關的配置文件; 1)與用戶(user)相關的配置文件;/etc/passwd 註:用戶(user)的配置文件;/etc/shadow 註

java異常—檢查異常checked exception未檢查異常unchecked exception

處理 角度 查找 targe 什麽是 mem 出錯 邏輯 alt 網易面試要我畫異常的結構圖,什麽是檢查異常,什麽是非檢查異常,我當時的表情是這樣的,。我看過,忘了。沒辦法,繼續看,寫博客掌握。 先來看看異常的結構圖,建議你結合JDK一起看。 可以看出異常的家族

laravel服務容器-----深入理解控制反轉IoC依賴註入DI

outer 十分 綁定 之間 module 還需 true 更多 我們 首先大家想一想什麽是容器,字面意思就是盛放東西的東西,常見的變量,對象屬性都是容器,一個容器能夠裝什麽東西,完全在於你對這個容器的定義。有的容器不僅僅只是存文本,變量,而是對象,屬性,那麽我們通過這種容

python面向對象 item系列,__enter__ __exit__,__call__方法,元類

屬性 eba callable 好處 繼承方式 類的創建 完成 __weak 依次 python面向對象進階(下) item系列 __slots__方法 __next__ 和 __iter__實現叠代器 析構函數 上下文管理協議 元類一