1. 程式人生 > >ICLR 2019高分論文搶先看,誰是第一?

ICLR 2019高分論文搶先看,誰是第一?

640?wx_fmt=png


作者 | 非主流

出品 | AI科技大本營 


ICLR 2019 將於明年的 5 月 6-9 日在美國路易斯安那州的新奧爾良市舉行。本屆大會共收到近 1600 篇投稿,相比 ICLR 2018 的 935 篇,以及 ICLR 2017 的 490 篇,幾乎每年都在翻番。


此前,ICLR 一直採用公開評審的方式,而在公開評審結束後,論文作者也能夠對論文進行調整和修改。不過,隨著這種公開評審的機制受到越來越多的質疑,在去年的時候,ICLR 2018 改成了雙盲評審。


如今,ICLR 2019 大部分論文的 OpenReview 的評分已經出爐,Horace He 和往年一樣抓取到了這些資料,並放到了網上。


傳送門:

https://chillee.github.io/OpenReviewExplorer/index.html


下面的三組圖表展示了近三年來 ICLR 論文平均得分的分佈。


                           

640?wx_fmt=jpeg                            

640?wx_fmt=jpeg

640?wx_fmt=jpeg

              

看完整體再看區域性,以下 11 篇是目前評分在 8 分及以上的論文,目前還沒出現 9 分的論文。


640?wx_fmt=png

      


1.Benchmarking Neural Network Robustness to Common Corruptions and Perturbations(8.50)


簡介:該論文提出了兩個 Benchmark,其中 ImageNet-C 用於衡量分類器對損壞的魯棒性,ImageNet-P 用於衡量對干擾的魯棒性。


2.ALISTA: Analytic Weights Are As Good As Learned Weights in LISTA  (8.50)


簡介:以往深度神經網路學習權重的過程是一個黑箱,該論文提出了 ALISTA,可以通過分析計算來學習權重,不僅可以取得同樣的效果,而且大大簡化了訓練過程。


3.Large Scale GAN Training for High Fidelity Natural Image Synthesis(8.45)


簡介:這篇就是大家比較熟悉的 BigGAN,運用了有史以來最大的訓練規模,作者來自 DeepMind。


4.GENERATING HIGH FIDELITY IMAGES WITH SUBSCALE PIXEL NETWORKS AND MULTIDIMENSIONAL UPSCALING(8.36)


簡介:該論文證明了自迴歸模型也可以生成高保真影象。


5.Variational Discriminator Bottleneck: Improving Imitation Learning, Inverse RL, and GANs by Constraining Information Flow(8.20)


簡介:針對對抗性學習的不穩定性,該論文提出用資訊瓶頸來約束鑑別器(Discriminator)的方法。該方法適用於模仿學習、逆向強化學習以及生成對抗網路。


6.Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks(8.09)


簡介:該論文介紹了一種新的歸納偏差(nductive bias),它可以將樹結構整合到遞迴神經網路中。


7.Slimmable Neural Networks (8.08)


簡介:該論文提出了一種簡單通用的方法來訓練可以在不同寬度下執行的單個神經網路(每一層中的通道數),從而允許即時對精確度和效率進行權衡。


8.An Empirical Study of Example Forgetting during Deep Neural Network Learning (8.08)


簡介:該論文證明了災難性遺忘在單一任務的範圍內也會發生,並且發現不容易遺忘的例子可以從訓練集中移除,而且不會影響泛化性。


9.Posterior Attention Models for Sequence to Sequence Learning(8.00)


簡介:該論文證明了基於後驗分佈來計算 attention,會讓 attention更有意義,而且表現更好。


10.Unsupervised Learning of the Set of Local Maxima(8.00)


簡介:該論文介紹了一種新的無監督學習的形式,實驗表明,這種方法能夠在異常檢測任務中勝過單分類演算法,並且還通過完全無監督的方式提取附加資訊。


11.Enabling Factorized Piano Music Modeling and Generation with the MAESTRO Dataset(8.00)


簡介:論文作者基於 MAESTRO 資料集訓練了一套模型,可以轉錄、創作以及合成具有連貫音樂結構的音訊波形。


當然,以上評分是動態的,而且評分最高並不一定代表就能獲獎,但是這個分數依然有很大的指導意義。比如 ICLR 2018 的三篇最佳論文在  OpenReview  上的評分都比較高,分列第 3、7、14 名。


目前,本屆大會的所有投稿論文已經可以在 OpenReview.net 上找到,大家可自行查閱。


傳送門:

https://openreview.net/group?id=ICLR.cc/2019/Conference


本文為 AI科技大本營原創文章,轉載請聯絡微信 1092722531。


BDTC 2018

精彩紛呈


2018 年12月6-8 日,由中國計算機學會主辦,CCF 大資料專家委員會承辦,CSDN、中科天璣資料科技股份有限公司協辦的 2018 中國大資料技術大會(BDTC 2018),將在北京新雲南皇冠假日酒店隆重舉行。


除 Keynote 外,主辦方精心策劃了 13 場專題技術和行業論壇,涵蓋大資料分析與生態系統、深度學習、推薦系統、大資料安全與政策、大資料可視分析、精準醫療大資料、資料科學與大資料技術教育、資料庫、金融大資料、知識圖譜、工業大資料、區塊鏈、交通與旅遊大資料等主題。


點選『閱讀原文』,檢視大會詳情


640?wx_fmt=jpeg


推薦閱讀

下次面試若再被問到二叉樹,希望你能對答如流!

亞馬遜AWS釋出AWS RoboMaker 可直接部署機器人

程式設計師的江湖 務必掌握這些黑話!

高達800萬次下載量的npm包被黑客篡改了程式碼,你的裝置或正成為挖礦機