1. 程式人生 > >Capsule 膠囊網路學習筆記

Capsule 膠囊網路學習筆記

以前鄒班的SMT沒認真聽,還得重新回來撿。

CNN的缺點:
忽略了圖片中的位置資訊,如果在圖片中檢測到眼睛鼻子等,就認為這是一張人臉,但如果把這些器官打亂,還是會誤識別為人臉,這是CNN中max pooling的特性造成的。

這裡寫圖片描述

如上圖所示,我們通俗的將每個神經元的輸出理解為這張圖具有此特徵的可能性(接近1就越可能具有某種特徵),這裡是用一個scale標量來表示圖片是否具有此特徵,capsule的思想就是把這些特徵做出embedding,用一個向量來表示。所以就使得神經元的輸出是向量而不是標量。

這裡寫圖片描述
膠囊網路的單元結構和普通的神經元的區別在上圖很明顯了。核心思想大概就這些,具體細節或其他可以參考引用中的部落格或者原文。

相關推薦

Capsule 膠囊網路學習筆記

以前鄒班的SMT沒認真聽,還得重新回來撿。 CNN的缺點: 忽略了圖片中的位置資訊,如果在圖片中檢測到眼睛鼻子等,就認為這是一張人臉,但如果把這些器官打亂,還是會誤識別為人臉,這是CNN中max pooling的特性造成的。 如上圖所示,我們通俗的

神經網路學習筆記(1)Image Classification

學習網站: 資料驅動方法 KNN(例如採用L1曼哈頓距離) 程式碼如下: import numpy as np class NearestNeighbor: def train(self,X,y): self.Xtrain=X self

計算機網路學習筆記(計算機網路概述)

什麼是計算機網路     答:計算機網路就是互相連線的、相互之間又相互獨立的計算機集合。     #什麼是相互獨立?:計算機之間無主從關係,不能相互控制。   2. 互聯的計算機之間能幹什麼?          答:互聯的計算機為了做資料交換,但是計算

卷積神經網路-學習筆記

1. Edge Detection Vertical Edge Detection: Convolve the image with Matrix

【計算機網路學習筆記】一

第二章 應用層 目錄 第二章 應用層 2.1應用層協議原理 2.1.1    網路應用程式體系結構 2.1.2    程序通訊 2.1.3    可供應用程式使用的運輸服務 2.1.4&nbs

【計算機網路學習筆記】概述

網際網路概述 計算機網路由若干結點(node)和連線這些結點的鏈路(link)組成。網路中的結點可以是計算機、集線器、交換機或路由器等。 網路之間還可以通過路由器互連起來,這就狗策了一個覆蓋範圍更大的計算機網路。這樣的網路稱為網際網路(internetwork或inter

計算機網路學習筆記(第二章 物理層)

首先強調指出,物理層考慮的是怎樣才能在來接各種計算機的傳輸媒體上傳輸資料位元流。而不是指具體的傳輸媒體。 可以將物理層的主要任務描述為確定與傳輸媒體的介面有關的一些特性,即 機械特性:指明介面所用接線器的形狀和尺寸、引腳數目和排列、固定和鎖定裝置等等。平時常見的各種規格的

目標檢測網路學習筆記(RCNN-SPPnet-Fast/Faster RCNN)

一 、RCNN:Rich feature hierarchies for accurate object detection and semantic segmentation Tech report (v5) Ross Girshick Jeff Donahue Trev

CNN卷積神經網路學習筆記1:背景介紹

     Convolutional Neural Network 卷積神經網路是基於人工神經網路提出的。人工神經網路模擬人的神經系統,由一定數量的神經元構成。在一個監督學習問題中,有一組訓練資料(xi,yi),x是樣本,y是label,把它們輸入人工神經網路,

計算機網路學習筆記——第三章課後題答案詳解

1、假定站點A和B在同一個10Mb/s乙太網網段上。這兩個站點之間的傳播時延為225位元時間。現假定A開始傳送一幀,並且在A傳送結束之前B也傳送一幀。如果A傳送的是乙太網所容許的最短的幀,那麼A在檢測到和B發生碰撞之前能否把自己的資料傳送完畢?換言之,如果A在傳送完畢之前並沒有檢測到碰撞,那麼能否肯定A所傳送

計算機網路學習筆記—第四章 網路

五一勞動節過完了。學習計劃也因此影響了,在這裡補上第四張的筆記。我覺得第四章是全書的重點,需要花一些時間去理解。接下來,要努力學習後面的章節了。 第四章裡需要理解的重點大致歸納如下: 1、網路層的功能  異構網路互聯原則,路由與轉發的區別和工作原理,擁塞控制的一半處理方式

計算機網路學習筆記 P17 奈氏準則和夏農公式

計算機網路學習筆記 P17 奈氏準則和夏農公式 奈氏準則 在任何通道中,碼元傳輸的速率是有上限的,否則就會出現碼間串擾的問題,使接收端對碼元的判決成為不可能。 如果通道的頻帶越寬,也就是能夠通過的訊號高頻分量越多,那麼就可以用更高的速率傳送碼元而不出現碼間串擾。 這樣是傳輸的快,接收

計算機網路學習筆記

OSI七層協議 物理層,資料鏈路層,網路層,傳輸層,會話層,表示層,應用層 ip地址 32位長度,點分10進位制4個為0~255長度 5層協議 物理層,資料鏈路層,網路層, 傳輸層,應用層 應用層: HTTP FTP SMTP TELNET

深度卷積神經網路學習筆記(一)

1.卷積操作實質:       輸入影象(input volume),在深度方向上由很多slice組成,對於其中一個slice,可以對應很多神經元,神經元的weight表現為卷積核的形式,即一個方形的濾波器(filter)(如3X3),這些神經元各自分別對應影象中的某一個區域性區域(local region

中繼器、集線器、網橋、交換機、路由器和閘道器在網路協議中工作的層次(計算機網路學習筆記

中繼器、集線器、網橋、交換機、路由器和閘道器執行在不同的層次上,如表1所示。 表1 裝置的工作層次 應用層 應用閘道器 傳輸層 傳輸閘道器 網路層 路由器 資料鏈路層 網橋、交換機 物理層 中繼器、集線器 物理層中有中繼器,中繼器是模擬裝置,主要用來處理自己所連的線纜上的訊

神經網路學習筆記(六):感知機收斂定理

   先對與操作進行討論,與(AND)操作需要將(0,0)(0,1)(1,0,)(1,1)進行二分類,結果輸出0或者1,顯然前三個點對應輸出為0的類,最後一個點對應輸出為1的類,這四個點在二維平面上一畫很容易看出,有無數條線可以將其分類。故是線性可分的類,同理可證或,非邏輯操作。

計算機網路 學習筆記-傳輸層:TCP協議簡介

概述: TCP傳輸前先要建立連線 TCP在傳輸層 點對點,一條TCP只能連線兩個端點 可靠傳輸、無差錯、不丟失、不重複、按順序 全雙工 位元組流 TCP報文段 TCP報文段的報頭前20位元組是固定的,後面4n位元組是根據需要而新增的。 20位元組的固定部分: 源埠和目的

神經網路學習筆記(五):感知機

  感知機在神經網路發展的歷史上佔據著重要的位置:它是第一個從演算法上完整描述的神經網路。它的發明者Rosenblatt是一位心理學家。   感知機是用於線性可分模式(即不同的類別可由超平面完全分割)分類的最簡單的神經網路模型,基本上它是由一個具有可調突觸權值和偏置的神經

【神經網路學習筆記】LIBSVM引數講解

支援向量機SVM(Support Vector Machine)作為一種可訓練的機器學習方法可以實現模式分類和非線性迴歸,本文就matlab中的LIBSVM工具箱展開說明。 在matlab中呼叫LIBSVM工具箱可以方便的使用LIBSVM網路,臺灣大學的林智仁教授已經封裝好

神經網路學習筆記-支援向量機(Support Vector Machine,SVM )

基於誤差反向傳播演算法的多層感知器 徑向基函式網路 支援向量機(SupportVector Machine , SVM ) 都是前饋神經網路 ,都用於解決模式分類與非線性對映問題 。 線性可分模