深度可分離卷積

阿新 • • 發佈：2021-09-04

MobileNetV1引入深度可分離卷積作為傳統卷積層的有效替代，深度可分卷積通過將空間濾波與特徵生成機制分離，有效地分解傳統卷積。深度可分卷積由兩個獨立的層定義:用於空間濾波的輕量級深度卷積和用於特徵生成的1x1點卷積。具體來說就是深度卷積中一個卷積核通道上只有一維，負責特徵圖的一個通道，一個通道只被一個卷積核卷積，深度卷積完成後的輸出特徵圖通道數與輸入層的通道數相同。1x1點卷積能夠對特徵圖起到降維或升維的操作，將上一層的特徵圖在深度方向上進行加權組合，生成的新的特徵圖的大小與輸入資料大小一致，主要作用是組合各通道的特徵資訊。

(11條訊息) 輕量化網路結構——MobileNet_小花生的部落格-CSDN部落格_網路輕量化

薰風讀論文：MobileNet 詳解深度可分離卷積，它真的又好又快嗎？ - 知乎 (zhihu.com)

關於深度可分離卷積的理解

常規卷積常規卷積中，連線的上一層一般具有多個通道（這裡假設為n個通道），因此在做卷積時，一個濾波器（filter）必須具有n個卷積核（kernel）來與之對應。一個濾波器完成一次卷積，實際上是多個卷積核與上一層對應

卷積網路深度可分離卷積

深度可分離卷積 = 深度卷積(Depthwise Convolution) + 逐點卷積(Pointwise Convolution)。深度卷積

深度學習模型元件 ------ 深度可分離卷積、瓶頸層Bottleneck、CSP瓶頸層BottleneckCSP、ResNet模組、SPP空間金字塔池化模組

YOLOv5 元件作者：elfin 資料來源：yolov5 目錄1、標準卷積: Conv + BN + activate2、DWConv深度可分離卷積3、Bottleneck瓶頸層4、BottleneckCSP-CSP瓶頸層5、ResNet模組6、SPP空間金字塔池化模組

深度可分離卷積

MobileNetV1引入深度可分離卷積作為傳統卷積層的有效替代，深度可分卷積通過將空間濾波與特徵生成機制分離，有效地分解傳統卷積。深度可分卷積由兩個獨立的層定義:用於空間濾波的輕量級深度卷積和用於特徵生

值得收藏 | 深度剖析 TensorCore 卷積運算元實現原理

作者：章曉 | 曠視 MegEngine 架構師一、前言 2020 年 5 月 Nvidia 釋出了新一代的 GPU 架構安培（Ampere）。其中和深度學習關係最密切的莫過於效能強勁的第三代的 TensorCore ，新一代的 TensorCore 支援了更為豐

深度學習以及卷積基礎

作者：石文華編輯：龔賽介紹深度學習是機器學習的一個分支，是基於資料來學習表示資料的一組演算法。下面我們列出最受歡迎的一些深度學習演算法。

Tensorflow tf.nn.depthwise_conv2d如何實現深度卷積的

實驗環境：tensorflow版本1.2.0，python2.7 介紹 depthwise_conv2d來源於深度可分離卷積:

keras CNN卷積核可視化,熱度圖教程

卷積核可視化 import matplotlib.pyplot as plt import numpy as np from keras import backend as K from keras.models import load_model

CondenseNet：可學習分組卷積，原作對DenseNet的輕量化改造 | CVPR 2018

CondenseNet特點在於可學習分組卷積的提出，結合訓練過程進行剪枝，不僅能準確地剪枝，還能繼續訓練，使網路權重更平滑，是個很不錯的工作

深度學習筆記二：卷積神經網路（CNN）

卷積神經網路CNN 1. 緒論 1. 卷積神經網路的應用基本應用：分類、檢索、檢測、分割

卷積、深度學習中的卷積和反捲積

文章目錄 1 訊號處理中的卷積與互相關1）訊號處理中的卷積操作2）訊號處理中的互相關

吳恩達深度學習筆記（deeplearning.ai）之卷積神經網路（CNN）（上）

原文連結 https://www.cnblogs.com/szxspark/p/8439066.html 1. Padding 在卷積操作中，過濾器（又稱核）的大小通常為奇數，如3x3，5x5。這樣的好處有兩點：

3.2 CNN卷積神經網路基礎知識-卷積操作(百度架構師手把手帶你零基礎實踐深度學習原版筆記系列)

3.2 CNN卷積神經網路基礎知識-卷積操作(百度架構師手把手帶你零基礎實踐深度學習原版筆記系列)

3.1 計算機視覺的發展和卷積神經網路概要(百度架構師手把手帶你零基礎實踐深度學習原版筆記系列)

3.1 計算機視覺的發展和卷積神經網路(百度架構師手把手帶你零基礎實踐深度學習原版筆記系列)

如何使用圖卷積網路對圖進行深度學習

在高度複雜的資訊圖結構上進行機器學習是困難的。圖卷積GCN是一種神經網路，可以被用於直接在圖上進行工作，同時也藉助了他們的結構資訊。

卷積網路可解釋性復現 | Grad-CAM | ICCV | 2017

覺得本文不錯的可以點個贊。有問題聯絡作者微信cyx645016617，之後主要轉戰公眾號，不在部落格園和CSDN更新。

深度卷積網路：例項探究

經典網路我們需要了解幾個經典的神經網路結構，分別是LeNet-5網路、AlexNet和VGGNet

深度學習-邊緣檢測卷積核闡述、padding的意義、三維卷積

左邊10的部分表示較亮的部分，可以看到將左邊圖片中間的線-->右邊圖片擴大加粗了。

英特爾用 ViT 做密集預測效果超越卷積：效能提高 28%，線上可玩

用全卷積網路做密集預測（dense prediction），優點很多。但現在，你可以試試 Vision Transformer 了 ——英特爾最近用它搞了一個密集預測模型，結果是相比全卷積，該模型在單目深度估計應用任務上，效能提高了 28%。

深度學習筆記33 轉置卷積

轉置卷積可以用來增大輸入的高寬，算是對卷積的反捲？並不是。轉置卷積本質上還是一個卷積，它只是與卷積在形狀上是相反的，但是數值不是；