“神經網絡之父”拋棄幾十年探索成果,欲從頭開始開辟全新道路
“我們需要放棄掉反向傳播算法(Backpropagation algorithm),重新開辟一條新的路徑。”終於,Hinton 還是表達出了這個或許已經埋藏他內心很久的想法。
圖丨神經網絡之父 Geoffrey Hinton
在上周三的一場多倫多 AI 會議上,Hinton 接受了 Axios 的采訪時袒露了對反向傳播算法的質疑。他認為反向傳播算法並不是大腦運作的方式,要想讓神經網絡變得更智能。就必須放棄這種為所有數據標註的方式。
而 Hinton 所提到的反向傳播算法在當今的人工智能領域扮演著重要的角色。在輸入數據固定的情況下、反向傳播算法利用神經網絡的輸出敏感度來快速計算出神經網絡中的各種超參數。它之所以重要,是因為極高的效率。在圖像與語音的識別分類上具有重要作用。
雖然會議上的其他科學家堅持反向傳播在人工智能未來的發展中仍然將發揮著重要的作用,但顯然 Hinton 已經開始考慮全新的技術路徑了。而事實上,這也並不意外,畢竟從 80 年代開始,Hinton 就開始關註人類大腦的原理,並發表了一定數量的有關腦神經科學的論文。
1986 年的那篇 Hinton 與 David E. Rumelhart www.ysyl157.com 和 Ronald J. www.wmyl1.cn Wlilliams 合著的《Learning representations by back-propagation errors》論文具有重要的意義,可以說是代表著反向傳播算法首次被引入到多層神經網絡訓練,也為後來該算法的推廣埋下伏筆。
但作為反向傳播算法的發起者,Hinton 又親自否定了自己成果,想要重新開始,這不由得讓人聯想到普朗克的那句名言“科學是通過一次又一次的葬禮而取得前進的”
“神經網絡之父”拋棄幾十年探索成果,欲從頭開始開辟全新道路