1. 程式人生 > >基於圖卷積網絡的圖深度學習

基於圖卷積網絡的圖深度學習

理論 cdn image 深度 大名 end 但我 github 圖像識別

        基於圖卷積網絡的圖深度學習

技術分享
先簡單回顧一下,深度學習到底幹成功了哪些事情!
技術分享
深度學習近些年在語音識別,圖片識別,自然語音處理等領域可謂是屢建奇功。ImageNet:是一個計算機視覺系統識別項目, 是目前世界上圖像識別最大的數據庫,並且被業界熟知。
我們先回顧一下,沒有大數據支撐的歐式深度學習技術。對於一個字母“Z”的識別,我們通常是建立一個2D網格(點陣),如果將其中的點連接起來,定義這樣的連接方式所形成的就是“Z”。然後是用其他字母來測試,這個模型的正確性。

技術分享
技術分享
傳統深度學習的方法,實際上就是一種手工設計特征的過程。而且,在準確率上沒有保障。而真正的深度學習,端到端的學習,其中的過程到底發生了什麽,設計者什麽也不知道,自然也不會人為的去幹涉。
技術分享


技術分享
如果數據不能網格化,那麽CNNs就失去了作用。所以,CNNs在一定程度上還是有很多缺陷的。例如圖結構數據,如何處理?在現實世界中這樣的例子很多很多:社交網絡(著名的六度理論),萬維網,知識圖,等等這些都是圖結構,不是網格結構,對於這些我們該怎麽解決。
技術分享
技術分享
下面是一個簡單的解決圖結構數據的方法。
技術分享

這個方法到底會出現什麽樣的問題呢?為了解決問題,我們需要什麽呢?
技術分享
先簡單介紹一下第一階消息傳遞的GCNs,這個理論在2009年就已經被提出來了。
技術分享
接下來,我們了解一下GCN模型架構!
技術分享
GCN模型架構到底能幹什麽呢?先舉個小栗子。
技術分享
GCN模型與大名鼎鼎魏勒雷曼算法的關系到底是什麽樣的呢?
技術分享
技術分享
圖的半監督分類也是一種不錯的方法。
技術分享


半監督分類嵌入方法——兩步管道,這個方法也有一些問題,但我想這是可以解決的。
技術分享

舉個小栗子,視頻鏈接是一個關於半監督學習的小例子,有興趣的朋友可以去看一下。
技術分享
視頻:
http://tkipf.github.io/graph-convolutional-networks/
此外,還有關於引文網絡的分類,也可以 通過這個方法實現。
技術分享
下面2-layerGCN模型的實驗結果
技術分享
技術分享
還要一些這個方法最近應用到其他程序的案例。
技術分享
用這個方法關於圖auto-encoders鏈接的預測。下面是auto-encoders的介紹
技術分享
Autoencoders
進一步的閱讀
Blog post Graph Convolutional Networks:
http://tkipf.github.io/graph-convolutional-networks
Code on Github:
http://github.com/tkipf/gcn
Kipf & Welling, Semi-Supervised Classification with Graph Convolutional Networks, ICLR 2017:
https://arxiv.org/abs/1609.02907
Kipf & Welling, Variational Graph Auto-Encoders, NIPS BDL Workshop, 2016: https://arxiv.org/abs/1611.07308
技術分享

基於圖卷積網絡的圖深度學習