《機器學習》 周志華學習筆記第八章 整合學習（課後習題）python實現
1.個體與整合
1.1同質整合
1.2異質整合
2.boosting:代表AdaBoost演算法
3.Bagging與隨機森林
3.1Bagging 是並行式整合學習方法最著名的代表（基於自主取樣法bootstrap sampling）
自己學習時編寫了一些程式碼，參考了一些書上的資料，理論上問題不大，程式碼上面還是有點問題。習題以後補上
https://github.com/makang101/machinelearning/tree/master/chapter8ensemblelearning
相關推薦
《機器學習》 周志華學習筆記第四章 決策樹（課後習題）python 實現
一、基本內容 1.基本流程 決策樹的生成過程是一個遞迴過程，有三種情形會導致遞迴返回 （1）當前節點包含的yangben全屬於同一類別，無需劃分； （2）當前屬性集為空，或是所有yangben在所有屬性上的取值相同，無法劃分； （3）當前結點包含的yangben集合為空，不能
《機器學習》 周志華學習筆記第三章 線性模型（課後習題）python 實現
線性模型 一、內容 1.基本形式 2.線性迴歸：均方誤差是迴歸任務中最常用的效能度量 3.對數機率迴歸：對數機率函式（logistic function）對率函式是任意階可導的凸函式，這是非常重要的性質。 4.線性判別分析（LDA 是一種降維的方法） 5.多分類學習：
《機器學習》 周志華學習筆記第五章 神經網路（課後習題） python實現
1.神經元模型 2.感知機與多層網路 3.誤差逆傳播演算法 (A)BP演算法：最小化訓練集D上的累積誤差 標準BP演算法：更新規則基於單個Ek推導而得 兩種策略防止過擬合：（1）早停（通過驗證集來判斷，訓練集誤差降低，驗證集誤差升高）（2） 正則化：在誤差目標函式中引入描述網
《機器學習》 周志華學習筆記第八章 整合學習（課後習題）python實現
1.個體與整合 1.1同質整合 1.2異質整合 2.boosting:代表AdaBoost演算法 3.Bagging與隨機森林 3.1Bagging 是並行式整合學習方法最著名的代表（基於自主取樣法bootstrap sampling） 自己學習時編寫了
《機器學習》 周志華學習筆記第六章 支援向量機（課後習題）python 實現
一、 1.間隔與支援向量 2.對偶問題 3.核函式 xi與xj在特徵空間的內積等於他們在原始yangben空間中通過函式k(.,.)計算的結果。 核矩陣K總是半正定的。 4.軟間隔與正則化 軟間隔允許某些samples不滿足約束 鬆弛變數 5.支援
《機器學習》 周志華學習筆記第七章 貝葉斯分類器（課後習題）python 實現
課後習題答案 1.試用極大似然法估算西瓜集3.0中前3個屬性的類條件概率。 好瓜有8個，壞瓜有9個 屬性色澤，根蒂，敲聲，因為是離散屬性，根據公式（7.17） P(色澤=青綠|好瓜=是) = 3/8 P(色澤=烏黑|好瓜=是) = 4/8 P(色澤=淺白|好瓜=是) =
《機器學習》 周志華學習筆記第十四章 概率圖模型（課後習題）python實現
一、基本內容 1.隱馬爾可夫模型 1.1. 假定所有關心的變數集合為Y,可觀測變數集合為O,其他變數集合為R, 生成式模型考慮聯合分佈P(Y,R,O),判別式模型考慮條件分佈P(Y,R|O)，給定一組觀測變數值，推斷就是要由P(Y,R,O)或者P(Y,R|O)得到條件概率分佈P(Y,
機器學習(周志華) 參考答案 第三章 線性模型 3.3
一：matlab實現 1.資料的Excel處理 西瓜資料集3.0 2.程式碼 # -*- coding: utf-8 -*- old_l = 0; n = 0; b = [0;0;1]; %對應書中（3.25）下的B=(w;b)，因為x有兩個屬性：
機器學習(周志華) 參考答案 第四章 決策樹 python重寫版與畫樹演算法
機器學習(周志華西瓜書) 參考答案 總目錄 機器學習(周志華) 參考答案 第四章 決策樹 3.試程式設計實現基於資訊熵進行劃分選擇的決策樹演算法，併為表4.3中資料生成一棵決策樹。 最近在學著用python，所以用py重寫了以前的決策樹程式碼，
周志華 西瓜書 第16章 強化學習（習題答案）（轉）
原文轉自： https://blog.csdn.net/icefire_tyh/article/details/53691569
(周志華)讀書筆記 -- 第四章 決策樹
4.1 基本流程 決策樹是什麼?要想解決這個問題，首先要弄明白的就是計算機中的樹是什麼。樹，我們在計算機中很常見了，有二叉樹，哈夫曼樹等等，總結一下共同點的時候就是，對一個當前節點而言，下一個個節點有
機器學習(周志華) 參考答案 第十六章 強化學習
機器學習(周志華西瓜書) 參考答案 總目錄 是時候讓自己的機器更強大一些了，順便完結撒花 1.用於K-搖臂賭博機的UCB方法每次選擇Q(k)+UC(k)的最大的搖臂，其中Q(k)為搖臂k當前的平均獎賞，UC(k)為置信區間。例如Q(k)
機器學習(周志華) 參考答案 第十四章 概率圖模型
機器學習(周志華西瓜書) 參考答案 總目錄 1.試用盤式記法表示條件隨機場和樸素貝葉斯分類器。 條件隨機場: 這樣畫的問題在於無法表示N個y之間的關係，到底怎麼畫我也不知道。 樸素貝葉斯分類器:y依賴於所有的變數x 2.證明
機器學習(周志華) 參考答案 第十五章 規則學習
機器學習(周志華西瓜書) 參考答案 總目錄 好忙啊好忙啊好忙啊，這章和我的研究方向關係不大，暫時先偷工減料一下下。 1.對西瓜資料集2.0，允許使用否定形式的文字，試基於自頂向下的策略學出命題規則集。 1，2題共同的問題是，如
JavaSE習題 第八章 執行緒（未完成）
問答題 1.執行緒和程序是什麼關係？ 程序是程式的一次動態執行，對應了從程式碼載入，執行至執行完畢的一個完整的過程 執行緒是比程序更小的執行單位，一個程序在其執行過程中可以產生多個執行緒，形成多條執行線索 2.執行緒有幾種狀態？ 4種，新建，執行，中斷，死亡 3.引起執行緒中斷的常見原
機器學習-周志華-第五章筆記 CNN
Chapter 5 神經網路-機器學習-周志華 5.1神經元模型 神經網路：具有適應性的簡單單元組成的廣泛並行互連的網路，它的組織能夠模擬生物神經系統對真實世界物體所作出的互動反應。 神經元模
機器學習 周志華筆記
已經發布部落格 ************************************************************ 周志華教授 機器學習教材總結 資料和特徵決定了機器學習的上限，而模型和演算法只是逼近這個上限而已 問題總結： 生成式模型
《機器學習》周志華 讀書筆記2（原創）
第2章 模型評估與選擇 p24-p51 2017-2-24 Fri Model selection模型選擇：選用哪種學習演算法、使用哪種引數配置 （理想的解決方案：對候選模型的泛化誤差進行評估，再選擇泛化誤差最小的那個模型） （通過實驗來對學習器的泛化誤差進行評估並進而做
《機器學習》周志華 讀書筆記1（原創）
第1章 p1-p23 2017-2-20 Mon 模型：泛指從資料中學得的結果 Instance示例（或sample樣本）：每條記錄的資料。每條記錄是關於一個事件或物件的描述。 Data set資料集:記錄資料的集合 Attribute屬性（或feature特徵）：反映事
學習筆記 | 機器學習-周志華 | 5
第二章 模型評估與選擇 2.1 經驗誤差與過擬合 "錯誤率" (error rate) ，即如果在 m 個樣本中有 α 個樣本分類錯誤，則錯誤率 E= α/m; 1 一 α/m 稱為**“精度” (accuracy)** ，即"精度 =1 - 錯誤率" 更一般地，