實時目標檢測一直是yolo系列的追求之一，從yolo v1開始，作者就在論文中強調real-time。在後期的v2和v3的發展過程中，慢慢在P&R(尤其是recall rate)上下不少功夫。同時，計算量的增大也犧牲了yolo的實時性。

tiny-yolo是輕量級的yolo，在不那麼要求mAP的場景下，tiny-yolo可以作為v2甚至v3的代替結構。事實上，對於無GPU的裝置來講，tiny-yolo依然很難達到實時。

北卡的研究者針對無GPU的情況下，研究了一種實時性的yolo改進版本——yolo-lite。實驗證明，yolo-lite速度比tiny-yolo v2快8.8倍。

作者想研究一種non-GPU的實時檢測演算法，所以需要選擇一種基準演算法，在基準演算法上進行實時性優化。毫無疑問，選擇本來就在速度上佔據很大優勢的one-stage檢測演算法yolo是理所應當的。這就是所謂的，站在巨人的肩膀上。

以yolo為起點，所以這個演算法的名字叫yolo-lite。其研發團隊與最開始的yolo團隊並無什麼聯絡。

yolo lite網路結構

整個結構就像簡化版的yolo v2，用一個通體的CNN來做目標檢測。其實沒啥好重點研究的，還是採用主流的leaky relu作為主要的啟用函式，保留了v2的最大池化來調整張量尺寸，而不是用的v3那種通過卷積步長來調整尺寸。是一箇中規中矩的卷積神經網路。

有以下幾點改進：

 1. 把416x416的輸入尺寸替換成224x224的輸入尺寸；輸入尺寸更小意味著需要的FLOP量也越小；

2. 更少的層數以及更淺的網路；刪繁就簡，大大減少weights數量；

3. 去除BN層。yolo-tiny都是保留有BN層的，而yolo-lite卻完全去除了BN層。BN層能夠在訓練時加快收斂，同時，能夠提高訓練效果。讀過yolo v2論文的童鞋可以發現，BN層的加入直接使得yolo v2的mAP上升了5%。BN一度被認為是神器，Joseph團隊自從v2使用了BN之後，就再也沒拋棄BN了。而yolo-lite的研究者發現，BN層並不能很大幅度的提升演算法效能，尤其是在模型網路層數很淺的情況下。但是BN層卻會增加很多計算開銷，於是yolo lite的作者直接去掉了BN層。

實驗結果

mAP是被吊打了，但幀率卻大大提高。

作者表示，還可以做以下改進：

1. 可以加入shuffle-net中的depth-wise卷積；

2. 可以使用Image-net的預訓練模型；

3. 可以用減枝演算法進一步壓縮模型；

總結

yolo-lite帶來的啟示是“刪繁就簡”，如果不是為了刷榜(COCO)，而是在實際專案中，這種“就簡”的思維用處很大。首先，COCO資料集是檢測80分類，然而我們實際專案中往往用不到這麼多類別的檢測。直接用人家在COCO資料集上訓練出來的模型，其實有很多冗餘。對於簡單的專案，丟簡單的模型，反而不容易造成過擬合。

BN層可能對小模型的幫助並沒有那麼大，如果在小任務如單目標檢測上，可以考慮去掉BN層。