（這篇論文是最新的網路結構的論文，故下載下來學習一下）
1 論文出處：image2017多項冠軍，目前掛在arxiv上面
2 主要思路：
現在的網路結構，有resnet結構的，兩個通路然後把feature map 相加的（add），也有兩個通路然後把feature map 拼接（concat）在一起的（主要參考論文《Densely connected convolutional networks. arXiv preprint arXiv:1608.06993, 2016.》），作者在這篇論文中研究了這兩種網路結構之間的數學聯絡，各自的優點和缺點，然後根據這兩種網路結構的優缺點，提出了一種結合這兩種網路結構的新的結構DPN（雙通路網路結構），不僅提高了accuracy，而且消耗的資源更少。
3 詳細分析
3.1 resNet型別的網路和denseNet型別網路之間的聯絡
作者從Higher Order RNN（HORNN）的角度給出了新的理解。
RNN的公式如下：

也即，在每個step中，權重是共享的。
而對於 denseNet 而言，滿足： 不共享
即，在每個step 中權重是不共享的。
故可以認為，denseNet 由於權重不共享，更有利獲取到新的特徵。

對於resNet而言，如果將denseNet的引數不共享改成引數共享，即如下：

便是resnet了。
可以看出，resnet的引數在每個step中都是共享的，故認為，其特徵是reuse（複用）的。
結合上面的簡單分析，總結如下：
Resnet 和densnet都是特殊的HORNN，Resnet更有利於引數共享，而DenseNet更有利於獲取新的特徵，結合這兩者的優點，則是新的網路DPN
3.2 DPN
為了利用這兩種網路各自的優點，作者設計了一種雙通道網路，同時結合Resnet的結構和DenseNet的結構。具體如下：