人工智慧 遷移學習實戰進階
上課時間安排:
2022年05月27日 — 2022年05月30日
No.1 第一天
一、機器學習簡介與經典機器學習演算法介紹
- 什麼是機器學習?
- 機器學習框架與基本組成
- 機器學習的訓練步驟
- 機器學習問題的分類
- 經典機器學習演算法介紹
章節目標:機器學習是人工智慧的重要技術之一,詳細瞭解機器學習的原理、機制和方法,為學習深度學習與遷移學習打下堅實的基礎。
二、深度學習簡介與經典網路結構介紹
- 神經網路簡介
- 神經網路元件簡介
- 神經網路訓練方法
- 卷積神經網路介紹
- 經典網路結構介紹
章節目標:深入瞭解神經網路的組成、訓練和實現,掌握深度空間特徵分佈等關鍵概念,為深度遷移學習奠定知識基礎
三、遷移學習基礎
- 遷移學習緒論
- 基於樣本的遷移學習
- 基於特徵的遷移學習
- 基於分類器適配的遷移學習
章節目標:掌握遷移學習的思想與基本形式,瞭解傳統遷移學習的基本方法,對比各種方法的優缺點,掌握遷移學習的適用範圍。
四、深度遷移學習介紹
- 深度遷移學習概述
- 基於距離函式的深度遷移學習
- 基於對抗網路的深度遷移學習
- 深度異構遷移學習方法介紹
- 深度領域泛化學習介紹
章節目標:掌握深度遷移學習的思想與組成模組,學習深度遷移學習的各種方法,對比各種方法的優缺點,掌握深度遷移學習的適用範圍。
No.2 第二天
五、遷移學習前沿方法介紹
- 深度遷移網路結構設計
- 深度遷移學習目標函式設計
- 全新場景下的遷移學習
章節目標:掌握深度遷移學習的網路結構設計、目標函式設計的前沿方法,瞭解遷移學習在PDA、Source-Free DA上的應用。
六、遷移學習前沿應用
- 遷移學習在語義分割中的應用
- 遷移學習在目標檢測中的應用
- 遷移學習在行人重識別中的應用
- 圖片與視訊風格遷移
章節目標:掌握深度遷移學習在語義分割、目標檢測、行人重識別等任務中的應用,學習影象/視訊風格遷移方法,瞭解風格遷移在實際生活中的應用。
七、小樣本學習、Transformer等前沿方法與應用
- 小樣本學習概念與基本方法介紹
- 小樣本學習應用
- Transformer概念與基本方法介紹
- Transformer在影象領域的應用
章節目標:掌握小樣本學習、Transformer等前沿方法和基本思想,瞭解小樣本學習、Transformer等在實際場景下的應用。
No.3 第三天
八、實驗實操之實操環境搭建
- 硬體準備:GPU視訊記憶體11GB以上
- 軟體準備:Linux作業系統(Ubuntu16.04以上),顯示卡驅動安裝(512.54),CUDA Toolkit(10.1)和cuDNN加速庫(7.6.4),VS Code編輯器安裝,Jupyter Notebook
- 程式語言和框架:Python3.8.5、torch==1..07、torchvision==0.8.2、mmcv-full==1.3.7、opencv-python==4.4.0、matplotlib==3.4.2、numpy==1.19.2、Pillow==8.3.1、scikit-learn==1.0.2
- 資料集準備:Office-31、IRVI、GTA5、Cityscapes、Foggy cityscapes等
注:硬體準備由主辦方提供雲伺服器
九、實驗實操之深度遷移學習實踐
- 掌握PyTorch中的基本原理和程式設計思想。
- 理解在一個新的場景或資料集下,何時以及如何進行遷移學習。
- 利用PyTorch載入資料、搭建模型、訓練網路以及進行網路微調操作。
- 給定遷移場景,利用daib庫和生成對抗技術獨立完成影象分類中的領域適配。
- 遷移效果的視覺化,利用機器學習庫scikit-learn中的t-SNE對遷移過後的高維資料進行視覺化。
十、實驗實操之圖片與視訊風格遷移實踐
- 掌握基於生成對抗網路的風格遷移技術。
- 影象/視訊風格遷移網路的搭建,重點掌握編碼器和解碼器的內在邏輯和不同損失函式的運用。
- 實踐紅外視訊轉換到可見光視訊的風格遷移。
十一、實驗實操之自動駕駛中的跨域語義分割實踐
- 掌握語義分割發展現狀及代表性工作,如FCN,DeepLab系列等。
- 瞭解常用的語義分割評價指標(PA、mPA、mIoU、FWIoU)和常見資料集(PASCAL VOC2012,ADE20K、BDD100K、Cityscapes、GTA5、Dark Zurich)。
- 語義分割工具箱MMSegmentaion的認識和使用。
- 設計一個分割模型能夠從模擬環境中得到的資料遷移到真實場景下產生的資料。
十二、實驗實操之目標檢測實踐
- 掌握目標檢測演算法的基本框架以及目標檢測中的經典模型,如R-CNN系列的兩階段檢測模型和YOLO系列的單階段檢測模型。
- 掌握目標檢測模型的評測指標(IOU和mAP)、標準評測資料集(Pascal VOC,MS COCO和Cityscapes)以及檢測模型中的一些訓練技巧,如資料增強、多尺度訓練/測試、預測框微調/投票法、線上難例挖掘、軟化非極大抑制、RoI對齊和整合。
- 實踐基於Transformer的端到端目標檢測框架的搭建,並在新的資料集上與基於CNN的網路進行遷移效能的對比。
培訓專家
培訓專家來自中國科學院計算技術研究所、清華大學、北京理工大學等科研機構和大學的高階專家,擁有豐富的科研及工程技術經驗,長期從事人工智慧晶片、FPGA、深度學習等領域的教學與研究工作。
更多詳情請新增小編微信:【17531021189】