【機器學習】人像識別（二）——PCA降維
降維沒有什麼祕訣。我用了python裡sklearn.decomposition模組的IncrementalPCA。
程式碼如下：
X = np.array(dots) # dots是要被降維的二維陣列，每一行是一個向量
ipca = IncrementalPCA(n_components = dst_dimension) # 建立一個IncrementalPCA的例項，n_components表示最後要降到幾維，保留幾個關鍵值
ipca.fit(X)
Y = ipca.transform(X) # transform之後得到的Y就是降維的結果了，妙極 相關推薦
【機器學習】人像識別（二）——PCA降維
降維沒有什麼祕訣。我用了python裡sklearn.decomposition模組的IncrementalPCA。 程式碼如下： X = np.array(dots) # do
【機器學習】人像識別（三）——K-Means聚類
簡介 K-Means聚類是一種非監督的聚類方式，原理參看資料探勘十大演算法 | k-means。 程式碼 import sys import random import numpy as np from sklearn.decomposit
【機器學習】softmax迴歸（二）
通過上篇softmax迴歸已經知道大概了，但是有個缺點，現在來仔細看看 Softmax迴歸模型引數化的特點 Softmax 迴歸有一個不尋常的特點：它有一個“冗餘”的引數集。為了便於闡述這一特點，假設我們從引數向量 中減去了向量 ，這時，每一個
【機器學習】人像分類（四）——灰度矩陣恢復成灰度圖
簡介 對Matlab不是非常熟悉，經過查詢，瞭解到可以使用 colormap(flipud(gray)) 設定畫出的圖為灰度圖（不然畫出來是彩色的）。 imagesc(Matrix, []) 則用來將矩陣Matrix還原成圖
【機器學習】人像分類（一）——過程總結
這個問題其實是上學期某門課的大作業的三個題目之一。公佈題目後我就對這個內容很感興趣，然而由於種種原因，和隊友商量之後仍然選擇了看起來最簡單的句子分類，對此我不無遺憾。 這個寒假裡計劃要乾的事情其實有很多，完成這個專案是其中之一；對CS的熱門方向——如機
【機器學習】決策樹（二）——通過例子理解構建過程
回顧 前面我們簡單介紹了決策樹，以及資訊熵和條件熵的概念。提到構建決策樹的過程，那麼我們是如何根據特徵來構建決策樹的呢？ 決策樹的構建過程 決策樹演算法的重點就是決策樹的構造；決策樹的構造就是進行屬性選擇度量確定各個特徵之間的樹結構；構建決策樹的關鍵步驟就是分
【機器學習】softmax迴歸（一）
在 softmax迴歸中，我們解決的是多分類問題（相對於 logistic 迴歸解決的二分類問題），類標 可以取 個不同的值（而不是 2 個）。因此，對於訓練集 ，我們有 。（注意此處的類別下標從 1 開始，而不是 0）。例如，在 M
【深度學習】線性迴歸（二）小批量隨機梯度下降及其python實現
文章目錄 概述 小批量隨機梯度下降 解析解和數值解 小批量隨機梯度下降 python實現 需要的先驗知識 程式碼和實驗 概述 本文
【機器學習】神經網路（一）——多類分類問題
一、問題引入 早在監督學習中我們已經使用Logistic迴歸很好地解決二類分類問題。但現實生活中，更多的是多類分類問題（比如識別10個手寫數字）。本文引入神經網路模型解決多類分類問題。 二、神經網路模型介紹 神經網路模型是一個非常強大的模型，起源於嘗試讓機
【機器學習】決策樹（上）
前言：決策樹是一種基本的分類與迴歸演算法。可以認為是if-then規則的集合，也可以認為是定義在特徵空間與類空間上的條件概率分佈。 學習時，利用訓練資料，根據損失函式最小化原則建立決策樹模型。 學習包括3個步驟：特徵選擇、決策樹的生成、決策樹的修建 一、決策樹模型 更多參照博文
【機器學習】決策樹（上）——從原理到演算法實現
前言：決策樹（Decision Tree）是一種基本的分類與迴歸方法，本文主要討論分類決策樹。決策樹模型呈樹形結構，在分類問題中，表示基於特徵對例項進行分類的過程。它可以認為是if-then規則的集合，也可以認為是定義在特徵空間與類空間上的條件概率分佈。相比樸素
【機器學習】決策樹（三）——生成演算法（ID3、C4.5與CRAT）
回顧 前面我們介紹了決策樹的特徵選擇，以及根據資訊增益構建決策樹。 那麼決策樹的生成又有哪些經典演算法呢？本篇將主要介紹ID3的生成演算法，然後介紹C4.5中的生成演算法。最後簡單介紹CRAT演算法。 ID3演算法 前面我們提到，一般而言，資訊增
【機器學習】數值分析（1）—— 任意方程求根
# 任意方程求根 ## 簡介 方程和函式是代數數學中最為重要的內容之一，從初中直到大學，我們都在研究著方程與函式，甚至我們將圖形代數化，從而發展出了代數幾何、解析幾何的內容。而在方程與函式中，我們研究其性質最多的，往往就是方程的根（零點），即使是研究方程的極值點、鞍點等，我們無非也只是研究其微商的零點。
【機器學習】決策樹（基於ID3,C4.5,CART分類迴歸樹演算法）—— python3 實現方案
內含3種演算法的核心部分. 沒有找到很好的測試資料. 但就理清演算法思路來說問題不大 剪枝演算法目前只實現了CART迴歸樹的後剪枝. import numpy as np from collections import Counter from sklearn imp
【機器學習】交叉驗證（cross-validation）
1、什麼是交叉驗證 交叉驗證（Cross validation)，交叉驗證用於防止模型過於複雜而引起的過擬合。有時亦稱迴圈估計， 是一種統計學上將資料樣本切割成較小子集的實用方法。於是可以先在一個子集上做分析， 而其它子集則用來做後續對此分析的確認及驗證。 一開始的子集被稱
【機器學習】決策樹（下)CART演算法分類樹、迴歸樹
CART同樣由特徵選擇、樹的生成、剪枝組成。既可以用於迴歸，又可以用於分類。 CART是在給定輸入隨機變數X條件下輸出隨機變數Y的條件概率分佈的學習方法。 CART假設決策樹是二叉樹，內部節點特徵的取值為“是“和“否“，左分支是取值為“是“的分支，右分支是取值為“否“的分支。這樣的決策樹
Python3 機器學習實戰自我講解（二） K-近鄰法-海倫約會-手寫字型識別
第二章 k近鄰法 2.1 概念 2.1.1 k近鄰法簡介 k近鄰法(k-nearest neighbor, k-NN)是1967年由Cover T和Hart P提出的一種基本分類與迴歸方法。它的工作原理是：存在一個樣本資料集合，也稱作為訓練樣
輕松入門機器學習之概念總結（二）
消息 目的 作者 固定 erp 效率 dev 常用 度量 歡迎大家前往雲加社區，獲取更多騰訊海量技術實踐幹貨哦~ 作者：許敏 接上篇：機器學習概念總結筆記（一） 8）邏輯回歸 logistic回歸又稱logistic回歸分析，是一種廣義的線性回歸分析模型，常用於數據挖掘
機器學習算法整理（二）邏輯回歸 python實現
alt bubuko 邏輯 style res n) regress com png 邏輯回歸(Logistic regression) 機器學習算法整理（二）邏輯回歸 python實現
ng機器學習視頻筆記（二） ——梯度下降算法解釋以及求解θ
表示 大於 解釋 圖片 bubuko eight 閾值 自己 極小值 ng機器學習視頻筆記（二） ——梯度下降算法解釋以及求解θ （轉載請附上本文鏈接——linhxx） 一、解釋梯度算法 梯度算法公式以及簡化的代價函數圖，如上圖所示。