Meta Learning & Few-shot Learning(元學習VS小樣本學習)
阿新 • • 發佈:2022-01-05
Meta Learning & Few-shot Learning(元學習VS小樣本學習)
一、Meta Learning:元學習,learn to learn
讓機器學會如何學習,即讓機器學習自己調整模型中的超引數。
在傳統機器學習中,輸入的是樣本,損失函式是在訓練集資料上得到的。主要工作是讓訓練集上的損失函式越來越小,從而提高在測試集上的識別率。
圖1:元學習模型
在元學習中,輸入的是Training task(任務),得到的是選引數方法F,然後用這種方法應用到Testing-Task上,得到損失函式的方法如下:用F應用到Testing-Task中的訓練集上,得到模型model,然後將這種模型應用到Testing-Task中的測試上,用測試集的偏差來描述損失函式。
二、Few-shot Learning:小樣本學習
小樣本學習與元學習的原始目的並不相同,小樣本學習的目的是使用少數訓練資料得到理想的結果,但這種演算法往往不是人能夠直接構造的,因此經常使用元學習的方法得到這種演算法。
簡單來說,元學習的目的是讓機器人得到理想演算法的演算法,並不侷限於小樣本的場景;而小樣本學習的目的是得到理想的演算法,應用於原始資料不足的場景。