2. 程式人生 > 實用技巧 >論文閱讀筆記《A semi-supervised CNN based method for steel surface defect recognition》

論文閱讀筆記《A semi-supervised CNN based method for steel surface defect recognition》

阿新 • • 發佈：2020-10-23

核心思想

  本文提出一種半監督的鋼鐵表面缺陷檢測方法（PLCNN），半監督的思路也比較常見，利用CNN對無標籤樣本進行預測，輸出偽標籤（Pseudo-Label），並將帶有偽標籤的樣本作為訓練樣本對網路進行進一步訓練。
在這裡插入圖片描述
  網路結構的設計也沒有什麼特別之處，唯一有點新意的地方可能就是損失函式的設計了。

實現過程

網路結構

  在這裡插入圖片描述

損失函式

  損失函式包含有標籤損失和無標籤損失兩個部分，兩個部分均採用交叉熵損失函式
在這裡插入圖片描述
在這裡插入圖片描述
其中最主要的就是平衡引數 α \alpha α的選擇，訓練前期偽標籤樣本並不可靠，所以 α \alpha α過大時就會導致無標籤損失對結果影響較大，使得網路效能無法提高；如果 α \alpha

α過小則會導致無標籤樣本對網路訓練起不到作用。因此本文采用了一個分段線性增長的 α \alpha α選擇策略，如下式
在這裡插入圖片描述
當訓練週期數小於 T 1 T_1 T1​時， α \alpha α置0，使得無標籤損失不會對訓練產生負面影響，只依賴有標籤損失對網路進行訓練；當訓練週期數 T 1 < t < T 2 T_1<t<T_2 T1​<t<T2​時， α \alpha α隨週期數線性增長，這是因為隨著訓練的進行，偽標籤的準確性也在逐漸上升，所以穩定地增加無標籤損失的作用；當訓練週期數大於 T 2 T_2 T2​時， α = α f \alpha=\alpha_f
α=αf​，無標籤損失的作用被限定在一定的範圍內，保證網路的訓練效果。

創新點

  • 提出一種半監督學習的缺陷檢測演算法，設計了線性的平衡引數增長策略

演算法評價

  中規中矩的一篇文章吧，但還是發表在了Q1區的頂刊裡，文章寫得比較規矩，思路並沒有什麼特別出彩的地方。

如果大家對於深度學習與計算機視覺領域感興趣，希望獲得更多的知識分享與最新的論文解讀，歡迎關注我的個人公眾號“深視”。在這裡插入圖片描述

相關推薦

論文閱讀筆記《A semi-supervised CNN based method for steel surface defect recognition》

核心思想   本文提出一種半監督的鋼鐵表面缺陷檢測方法（PLCNN），半監督的思路也比較常見，利用CNN對無標籤樣本進行預測，輸出偽標籤（Pseudo-Label），並將帶有偽標籤的樣本作為訓練樣本對網路進行進一

論文閱讀筆記：《CRNet: Cross-Reference Networks for Few-Shot Segmentation》

論文閱讀筆記：《CRNet: Cross-Reference Networks for Few-Shot Segmentation》 論文下載地址：https://arxiv.org/abs/2003.10658

論文閱讀筆記《Convolutional Neural Networks for Steel Surface Defect Detection from Photometric Stereo》

小樣本學習&元學習經典論文整理||持續更新 核心思想   本文提出一種使用光度立體影象（Photometric Stereo Images）對鋼軌表面缺陷進行檢測的方法，關於光度立體影象我沒找到特別詳細的介紹，大體的概

論文閱讀筆記《Distribution Consistency Based Covariance Metric Networks for Few-Shot Learning》

小樣本學習&元學習經典論文整理||持續更新 核心思想   本文提出一種基於度量學習的小樣本學習演算法（CovaMNet），其從二階統計量（協方差）的角度出發，通過構建各個樣本的特徵向量之間的協方差矩陣

論文閱讀筆記5-An Asynchronous Energy-Efficient CNN Accelerator with Reconfigurable Architecture

一、Title An Asynchronous Energy-Efficient CNN Accelerator with Reconfigurable Architecture 二、Abstract & Introduction

論文閱讀筆記：《SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation》

論文閱讀筆記：《SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation》

論文閱讀筆記《Automatic Fabric Defect Detection with a Multi-Scale Convolutional Denoising Autoencoder Net》

核心思想   本文提出一種多尺度卷積去噪自動編碼器網路（MSCDAE）實現了對布匹紡織物缺陷的無監督檢測，演算法的思路其實並不複雜，作者使用正樣本對卷積自動編碼器（CAE）進行訓練，使得其具備提取織物特

【論文筆記】Semi-Supervised Crowd Counting via Self-Training on Surrogate Tasks

1. 論文題目 《Semi-Supervised Crowd Counting via Self-Training on Surrogate Tasks》 中文：通過輔助任務上自訓練的半監督人群計數 2. 作者以及研究單位 作者分別來自四川大學、阿德萊德大學、伍倫貢大

論文閱讀筆記ECCV 2018: Factorizable net: an efficient subgraph-based framework for scene graph generation

一、contribution 提出了一種基於子圖的場景圖生成方法，該方法具有以下特點：

論文閱讀筆記：gan inversion:a survey

GAN inversion:is to obtain the ‘real’ images’ latent codes and perform some subsequent image processing tasks

[論文][人臉演算法]Boosting Facial Expression Recognition by A Semi-Supervised Progressive Teacher

Motivation 在表情識別中，標註質量高的資料集資料量小，容易造成過擬合；資料量大的資料集標註質量不佳，含噪聲，不利於模型的學習。如下圖，為表情識別中最大的資料集之一AffectNet中錯誤標籤。我們提出Progressi

論文閱讀筆記：ViViT: A Video Vision Transformer

1.模型整體架構  左圖為論文作者提出了用於視訊分類的架構，基於純transformer的，右圖為用不同方式處理時空特徵的Encoder的不同元件的變體。

MapReduce 論文閱讀筆記

Abstract MapReduce ： programming model 程式設計模型 an associated implementation for processing and generating large data sets.

【論文閱讀筆記】《Conditional Generative Adversarial Nets》

論文：《Conditional Generative Adversarial Nets》 年份：2014年 引言 原始的GAN過於自由，訓練會很容易失去方向，導致不穩定且效果差。比如說GAN生成MNIST數字的過程，雖然可以生成數字，但生成的結果是隨機的（

CVPR2020｜Image Processing Using Multi-Code GAN Prior【論文閱讀筆記】

CVPR2020｜Image Processing Using Multi-Code GAN Prior【論文閱讀筆記】 作者相關連結前言介紹

cornernet論文閱讀筆記

CornerNet: Detecting Objects as Paired Keypoints 這裡的corner是角的意思而不是中心，也就是說，該網路為一階段目標檢測網路，預測的是目標的左上角和右下角兩個“corner”而構成一個bbox本模型是無需a

閱讀筆記-GROVER: Self-supervised Message PassingTransformer on Large-scale Molecular Data

GROVER: Self-supervised Message PassingTransformer on Large-scale Molecular Data 概要The GROVER Pre-training Framework

論文閱讀筆記《Few-Shot Learning Through an Information Retrieval Lens》

小樣本學習&元學習經典論文整理||持續更新 核心思想   本文提出一種完全不同的小樣本學習方法（mAP-SSVM，mAP-DLM），從資訊檢索（information retrieval）的角度來解決小樣本學習問題，與之前episod

【論文閱讀筆記】How Robust is 3D Human Pose Estimation to Occlusion?

論文地址：https://arxiv.org/abs/1808.09316 論文總結   本文主要在生成遮擋策略的方向上進行實驗，得到實驗結果和對比。但由於當時的精度不是特別高，所以其中的一些結論現如今不一定完全適用。

論文閱讀筆記《RelationNet2: Deep Comparison Columns for Few-Shot Learning》

小樣本學習&元學習經典論文整理||持續更新 核心思想   本文提出一種基於度量學習的小樣本學習演算法（DCN），從論文的題目能夠看出本文是基於RelationNet進行改進的，但與RelationNet相比本文有許多新