遷移學習 Transfer Learning
from:http://transferlearning.xyz/
關於遷移學習的所有資料,包括:介紹、綜述文章、最新文章、代表工作及其程式碼、常用資料集、碩博士論文、比賽等等。(可能是目前最全的遷移學習資料庫?) 歡迎一起貢獻!
Everything about Transfer Learning (Probably the most complete repository?). Your contribution is highly valued!
如果認為本倉庫有用,請在你的論文和其他出版物中進行引用! If you find this repo helpful, please cite it as follows:
@Misc{transferlearning.xyz,
howpublished = {\url{http://transferlearning.xyz}},
title = {Everything about Transfer Learning and Domain Adapation},
author = {Wang, Jindong and others}
}
目錄 Table of contents
0.Latest
遷移學習文章彙總 Awesome transfer learning papers
-
Latest publications
-
20181212 ICONIP-18 Domain Adaptation via Identical Distribution Across Models and Tasks - English: Transfer from large net to small net - 中文:從大網路遷移到小網路
-
20181212 AIKP Deep Domain Adaptation - English: Low-rank + deep nn for domain adaptation - 中文:Low-rank用於深度遷移
-
20181212 AIKP Multi-source Transfer Learning - English: Multi-source transfer - 中文:Multi-source transfer
-
20181212 NeurIPS-18 workshop Efficient transfer learning and online adaptation with latent variable models for continuous control - English: Reinforcement transfer learning with latent models - 中文:隱變數模型用於遷移強化學習的控制
-
-
Preprints on arXiv (Not peer-reviewed)
-
20181212 arXiv Beyond Domain Adaptation: Unseen Domain Encapsulation via Universal Non-volume Preserving Models - Domain generalization method - 一種針對於unseen domain的學習方法
-
20181212 arXiv 3D Scene Parsing via Class-Wise Adaptation - Class-wise adaptation for 3D scene parsing - 類別的適配用於3D場景分析
-
20181212 arXiv Secure Federated Transfer Learning - Federated transfer learning + Encryption - 聯邦遷移學習+加密(楊強團隊)
-
20181212 arXiv Learning Transferable Adversarial Examples via Ghost Networks - Use ghost networks to learn transferrable adversarial examples - 使用ghost網路來學習可遷移的對抗樣本
-
20181211 arXiv Adversarial Transfer Learning - English: A survey on adversarial domain adaptation - 中文:一個關於對抗遷移的綜述,特別用在domain adaptation上
-
20181211 arXiv Deep Variational Transfer: Transfer Learning through Semi-supervised Deep Generative Models - English: Transfer learning with deep generative model - 中文:通過深度生成模型進行遷移學習
-
1.Introduction and Tutorials
- 簡介文字資料
- 簡單的中文簡介 Chinese introduction
- PPT(English)
- PPT(中文)
- 遷移學習中的領域自適應方法 Domain adaptation: PDF | Video
- 清華大學龍明盛老師的深度遷移學習報告 Transfer learning report by Mingsheng Long @ THU:PPT(Samsung)、PPT(Google China)
- 入門教程
- 視訊教程
- 動手教程、程式碼、資料 Hands-on Codes
2.Transfer Learning Areas and Papers
Related articles by research areas:
- 領域自適應(非深度) Domain Adaptation (Shallow)
- Domain adaptation介紹:Domain adaptation
- 應用 Applications
一個推薦、分享論文的網站比較好,我在上面會持續整理相關的文章並分享閱讀筆記。詳情請見paperweekly。
3.Theory and Survey
Here are some articles on transfer learning theory and survey.
-
遷移學習領域最具代表性的綜述是A survey on transfer learning,發表於2010年,對遷移學習進行了比較權威的定義。 – The most influential survey on transfer learning.
-
遷移學習的理論分析 Transfer Learning Theory:
- 遷移學習方面一直以來都比較缺乏理論分析與證明的文章,以下三篇連貫式的理論文章成為了經典 Transfer learning theory:
- 許多研究者在遷移學習的研究中會應用MMD(Maximum Mean Discrepancy)這個最大均值差異來衡量不同domain之間的距離。MMD的理論文章是:
- MMD的提出:A Hilbert Space Embedding for Distributions 以及 A Kernel Two-Sample Test
- 多核MMD(MK-MMD):Optimal kernel choice for large-scale two-sample tests
-
MMD及多核MMD程式碼:Matlab Python
- 理論研究方面,重點關注Alex Smola、Ben-David、Bernhard Schölkopf、Arthur Gretton等人的研究即可。
-
較新的綜述 Latest survey:
- 2018 一篇遷移度量學習的綜述: Transfer Metric Learning: Algorithms, Applications and Outlooks
- 2018 一篇最近的非對稱情況下的異構遷移學習綜述:Asymmetric Heterogeneous Transfer Learning: A Survey
- 2018 Neural style transfer的一個survey:Neural Style Transfer: A Review
- 2018 深度domain adaptation的一個綜述:Deep Visual Domain Adaptation: A Survey
- 2017 多工學習的綜述,來自香港科技大學楊強團隊:A survey on multi-task learning
- 2017 異構遷移學習的綜述:A survey on heterogeneous transfer learning
- 2017 跨領域資料識別的綜述:Cross-dataset recognition: a survey
- 2016 A survey of transfer learning。其中交代了一些比較經典的如同構、異構等學習方法代表性文章。
- 2015 中文綜述:遷移學習研究進展
-
遷移學習的應用
- 視覺domain adaptation綜述:Visual Domain Adaptation: A Survey of Recent Advances
- 遷移學習應用於行為識別綜述:Transfer Learning for Activity Recognition: A Survey
- 遷移學習與增強學習:Transfer Learning for Reinforcement Learning Domains: A Survey
- 多個源域進行遷移的綜述:A Survey of Multi-source Domain Adaptation。
4.Code
請見這裡 | Please see HERE for some popular transfer learning codes. |
5.Transfer Learning Scholars
Here are some transfer learning scholars and labs.
全部列表以及代表工作性見這裡
Please refer to here to see a complete list.
-
Qiang Yang:中文名楊強。香港科技大學計算機系講座教授,遷移學習領域世界性專家。IEEE/ACM/AAAI/IAPR/AAAS fellow。[Google scholar]
-
Sinno Jialin Pan:楊強的學生,香港科技大學博士,現任新加坡南洋理工大學助理教授。遷移學習領域代表性綜述A survey on transfer learning的第一作者(Qiang Yang是二作)。[Google scholar]
-
Wenyuan Dai:中文名戴文淵,上海交通大學碩士,現任第四正規化人工智慧創業公司CEO。遷移學習領域著名的牛人,在頂級會議上發表多篇高水平文章,每篇論文引用量巨大。[Google scholar]
-
Lixin Duan:中文名段立新,新加坡南洋理工大學博士,現就職於電子科技大學,教授。[Google scholar]
-
Boqing Gong:南加州大學博士,現就職於騰訊AI Lab(西雅圖)。曾任中佛羅里達大學助理教授。[Google scholar]
-
Fuzhen Zhuang:中文名莊福振,中科院計算所博士,現任中科院計算所副研究員。[Google scholar]
-
Mingsheng Long:中文名龍明盛,清華大學博士,現任清華大學助理教授、博士生導師。[Google scholar]
-
Qingyao Wu:中文名吳慶耀,現任華南理工大學副教授。主要做線上遷移學習、異構遷移學習方面的研究。[Google scholar]
-
Weike Pan:中文名潘微科,楊強的學生,現任深圳大學副教授,香港科技大學博士畢業。主要做遷移學習在推薦系統方面的一些工作。 [Google Scholar]
-
Tongliang Liu:中文名劉同亮,現任悉尼大學助理教授。主要做遷移學習的一些理論方面的工作。[Google scholar]
-
Tatiana Tommasi:Researcher at the Italian Institute of Technology. _ _ _
6.Transfer Learning Thesis
Here are some popular thesis on transfer learning.
碩博士論文可以讓我們很快地對遷移學習的相關領域做一些瞭解,同時,也能很快地瞭解概括相關研究者的工作。其中,比較有名的有
-
2016 Baochen Sun的Correlation Alignment for Domain Adaptation
-
2015 南加州大學的Boqing Gong的Kernel Methods for Unsupervised Domain Adaptation
-
2014 清華大學龍明盛的遷移學習問題與方法研究
-
2014 中科院計算所趙中堂的自適應行為識別中的遷移學習方法研究
-
2012 楊強的學生Hao Hu的Learning based Activity Recognition
-
2012 楊強的學生Wencheng Zheng的Learning with Limited Data in Sensor-based Human Behavior Prediction
-
2010 楊強的學生Sinno Jialin Pan的Feature-based Transfer Learning and Its Applications
-
2009 上海交通大學戴文淵的基於例項和特徵的遷移學習演算法研究
其他的文章,請見完整版。
7.Datasets and Benchmarks
Please see HERE for the popular transfer learning datasets and certain benchmark results.
這裡整理了常用的公開資料集和一些已發表的文章在這些資料集上的實驗結果。
8.Transfer Learning Challenges
一些關於遷移學習的國際比賽。
Applications
See HERE for transfer learning applications.
遷移學習應用請見這裡。
Other Resources
Call for papers about transfer learning:
Related projects:
Contributing
If you are interested in contributing, please refer to HERE for instructions in contribution.
[文章版權宣告]這個倉庫是我開源到Github上的,可以遵守相關的開源協議進行使用。這個倉庫中包含有很多研究者的論文、碩博士論文等,都來源於在網上的下載,僅作為學術研究使用。我對其中一些文章都寫了自己的淺見,希望能很好地幫助理解。這些文章的版權屬於相應的出版社。如果作者或出版社有異議,請聯絡我進行刪除。一切都是為了更好地學術!