1. 程式人生 > >關於深度學習需要考慮的問題

關於深度學習需要考慮的問題

關註 text 博弈論 方法 進行 com 計算機 判斷 大數據集

技術分享圖片

現在深度學習受到了大家的青睞,這是因為深度學習有很多實用的技術,而這些技術都有值得我們學習的知識。所以現在有很多人都去學習深度學習,但是在學習深度學習過程中有兩個問題需要我們去考慮,那麽這兩個問題到底是什麽呢?下面我們就給大家介紹一下這兩個問題。

深度學習需要考慮的兩個問題就是如何在樣本數量有限的數據集上訓練算法,以便讓它們在能夠完全捕捉真實世界復雜度的無限大數據集上也能發揮出好的表現;第二個問題就是如果我們手中只有有限的數據集,我們要如何高效地測試這些算法才能確保它們在無限大數據集上也有好的表現。

這就涉及到了克服組合問題,有一些目前形式的數據驅動方法比如深度神經網絡類似的方法,其實有時候我們可能永遠也無法完善解決組合爆炸的問題。其實還有一些比較有潛力的方法,那就是在組合性的數據上進行測試,下面我們就給大家介紹一下這種方法。

在克服組合問題上,在組合性的數據上測試是一個好辦法,測試視覺算法的一個潛在的挑戰是我們只能在有限的數據上測試,即便我們測試的算法是為了解決真實世界中巨大的組合復雜度而設計的。博弈論中對這種問題的思考方式是關註於那些最糟糕的情況解決得如何,而不那麽關註平均難度的狀況解決得如何。而有限數據集中的平均難度的結果意義並不高,尤其是當數據集無法完全捕捉到問題的組合復雜性的時候。更為關註最糟糕的情況當然是有一定理由的,我們都知道,失誤都是更容易在復雜的情況下出現,出現以後也更可能帶來嚴重的後果。

如果失效模式可以在低維空間中捕捉到,比如可以縮小到只有兩三個因素的影響,我們就可以通過計算機圖形學和網格搜索的方法進行研究。但是對於多數視覺任務,尤其是涉及組合性數據的任務,我們就很難分辨出來一小組影響因素並獨立地研究它們。一種策略是在標準的對抗性訓練的基礎上進行拓展,讓它也可以作用於非局部的結構,方法是允許模型對圖像的主要結構、場景做復雜的操作,但同時不顯著改變人類的觀感。把這種方法拓展到視覺算法用來解決組合復雜度的問題仍然有不小挑戰。不過,如果我們設計算法的時候心裏就註意著復合性的事情,它們的顯式結構也可以讓我們更方便地進行診斷並判斷它們是如何失效的。

通過這篇文章我們不難看出深度學習中需要思考的兩個問題都是值得我們深思的,同時從側面上也可以說明深度學習還有很長的路要走。相信在未來,深度學習能夠幫助我們解決更多的問題。

關於深度學習需要考慮的問題