1. 程式人生 > >吳恩達深度學習筆記(27)-深度學習與大腦的區別

吳恩達深度學習筆記(27)-深度學習與大腦的區別

深度學習和大腦有什麼關聯性嗎?
回答是:關聯不大。

那麼人們為什麼會說深度學習和大腦相關呢?

當你在實現一個神經網路的時候,那些公式是你在做的東西,你會做前向傳播、反向傳播、梯度下降法,其實很難表述這些公式具體做了什麼,深度學習像大腦這樣的類比其實是過度簡化了我們的大腦具體在做什麼,但因為這種形式很簡潔,也能讓普通人更願意公開討論,也方便新聞報道並且吸引大眾眼球,但這個類比是非常不準確的。

一個神經網路的邏輯單元可以看成是對一個生物神經元的過度簡化,但迄今為止連神經科學家都很難解釋究竟一個神經元能做什麼,它可能是極其複雜的;它的一些功能可能真的類似logistic迴歸的運算,但單個神經元到底在做什麼目前還沒有人能夠真正可以解釋。

深度學習的確是個很好的工具來學習各種很靈活很複雜的函式,學習到從x到y的對映,在監督學習中學到輸入到輸出的對映。

在這裡插入圖片描述
但這個類比還是很粗略的,這是一個logistic迴歸單元的sigmoid啟用函式,這裡是一個大腦中的神經元,圖中這個生物神經元,也是你大腦中的一個細胞,它能接受來自其他神經元的電訊號,比如x_1,x_2,x_3,或可能來自於其他神經元a_1,a_2,a_3 。

其中有一個簡單的臨界計算值,如果這個神經元突然激發了,它會讓電脈衝沿著這條長長的軸突,或者說一條導線傳到另一個神經元。

所以這是一個過度簡化的對比,把一個神經網路的邏輯單元和右邊的生物神經元對比。

至今為止其實連神經科學家們都很難解釋,究竟一個神經元能做什麼。

一個小小的神經元其實卻是極其複雜的,以至於我們無法在神經科學的角度描述清楚,它的一些功能,可能真的是類似logistic迴歸的運算,但單個神經元到底在做什麼,目前還沒有人能夠真正解釋,大腦中的神經元是怎麼學習的,至今這仍是一個謎之過程。到底大腦是用類似於後向傳播或是梯度下降的演算法,或者人類大腦的學習過程用的是完全不同的原理。

所以雖然深度學習的確是個很好的工具,能學習到各種很靈活很複雜的函式來學到從x到y的對映。在監督學習中,學到輸入到輸出的對映,但這種和人類大腦的類比,在這個領域的早期也許值得一提。但現在這種類比已經逐漸過時了,我自己也在儘量少用這樣的說法。

這就是神經網路和大腦的關係,我相信在計算機視覺,或其他的學科都曾受人類大腦啟發,還有其他深度學習的領域也曾受人類大腦啟發。

其實這個“黑盒”還有很多需要人類探索的!