2020/10/11週報
阿新 • • 發佈：2020-10-12
- 對 miniimageNet 進行了訓練，在普通的 4 層 CNN 以 5-ways 5-shot 的資料進行訓練，得到的結果如下：
準確率大致停留在 60% 左右。 - 完成了ISIC的資料處理部分程式碼的編寫
- 對元學習的兩個較為經典的演算法 MAML 和 reptile 進行了學習.
a. MAML 主要是在忽略二階偏微分，以一階微分來計算初始的模型引數。MAML和 pre-training 是不同的。MAML 更加在意的總損失最小，即其他任務到達較好的representation所迭代的次數較少。而 pre-training 需要的直接是 representation 較好。
b. reptile 演算法：MAML演算法的內迴圈只迭代一次就計算損失，而reptile相當於在 MAML的基礎上，使內迴圈多迭代了幾次。c. ARUBA 為迭代時的內迴圈和外迴圈定義了學習率的變化策略。 - 任務的確定，到底以那些資料為輸入，哪些資料為輸出？