論文：Contrastive Learning for Compact Single Image Dehazing, CVPR 2021
程式碼：https://github.com/GlassyWu/AECR-Net

1、背景

當前方法的問題：1）使用clear images結合L1/L2重建損失進行訓練，容易引起結果偏色；2）側重於加大網路的深度和寬度，導致計算開銷巨大。

為了解決當前問題，作者提出了一種新的 contrastive loss。有霧影象，網路生成的影象，清晰影象分別做為 negative, anchor, 和 positive 樣本，保證生成的影象在表示空間中離清晰影象更近，離有霧影象更遠。同時，為了在效能和引數量間取得平衡，作者提出了一個 compact network by adopting autoencoder-like framework。

該方法框架如圖所示，由 autoencoder-like dehazing network 和 contrastive regularization 組成。

2、Autoencoder-like dehazing network

網路首先是一個步長為1的卷積和兩個步長為2的卷積（圖中淺藍色的塊），然後，採用6個FA塊處理（是在FFANet中提出的）。該模型只採用了6個FA塊，但原來的FFANet採用了57個，顯著減少了計算量。同時，為了促進不同層、不同尺度間特徵的流動，作者提出了兩種連線模式：

（1）Adaptive mixup： 用來動態融合下采樣層和上取樣層之間的特徵。Low-level features (邊緣和角點)在CNN的低層捕獲，但是，隨著網路層數的加深，淺層特徵會退化。為了解決這一問題，本文采用adaptive mixup operation來融合下采樣層和上取樣層間的特徵，如下圖所示。

該操作可以表示為：

其中，權重是自適應可學習的引數。

**（2）Dynamic feature enchancement： **傳統方法經常採用固定大小3X3的卷積核（如下圖中間藍框圖片所示），感受野有限，同時難以捕獲結構資訊。如果使用 deformable conv （如下圖右邊紅框圖片所示），就可以獲得更多的結構資訊。因此，作者引入了dynamic feature enhancement模組，由兩個可變形卷積層組成。實驗中發現，深層部署的效果比淺層部署效果要好。

3、Contrastive regularization

對比學習的目標是在度量空間上拉近正樣本對間的距離，拉遠負樣本對間的距離。因此，作者提出了新的 contrastive regularization 來修復影象。正樣本對是正樣本對是清晰影象\(J\)

在具體實現上，作者使用了VGG19的感知損失。