深度神經網路可以分為3類：

  1）前饋深度網路(feed-forwarddeep networks, FFDN)   2）反饋深度網路(feed-back deep networks, FBDN)   3）雙向深度網路(bi-directionaldeep networks, BDDN)

反饋深度網路(feed-back deep networks, FBDN)

  由多個解碼器層疊加而成。

主流的反饋深度網路

1）反捲積網路(deconvolutionalnetworks, DN)

  （a）單層反捲積網路：反捲積網路是通過先驗學習，對訊號進行稀疏分解和重構的正則化方法。   （b）反捲積網路：單層反捲積網路疊加（多個反捲積層疊加），可得到反捲積網路。   常見於GAN和編碼解碼器。主要應用於網路的視覺化、GAN。   反捲積網路訓練時，使用一組不同的訊號y，求解C(y)，進行濾波器組f和特徵圖z的迭代交替優化。訓練從第1層開始，採用貪心演算法，逐層向上進行優化，各層間的優化是獨立的。

2）層次稀疏編碼網路(hierarchical sparse coding, HSC)

  一種無監督的神經網路學習架構。不是自編碼器！而是自編碼器的解碼部分。   反捲積網路與層次稀疏編碼網路的不同：在反捲積網路中對影象的分解採用矩陣卷積的形式，而在稀疏編碼中採用矩陣乘積的方式。