遷移學習基礎知識 源域 多工學習 目標域
遷移學習
簡單的將就是舉一反三,是將已經學習到的知識遷移到另一種未知的知識的學習,即從源域遷移到目標域。
小故事
從前有一個商人,在帝都以賣貓的玩偶為生,他叫CNN,很厲害,是一個分辨高手,擅長區分不同的貓咪,如果有人拿貓咪想要坑他,基本是不可能的。名貴的貓咪的玩偶也就賣的貴一些。突然有一天,他不想賣貓了,想要賣狗狗和老虎的玩偶(只是比喻啦~保護小動物人人有責,違法亂紀的事堅決不能幹)。
本以為老虎和貓長的比較像,區分種間不同的種類的時候,也是比較容易的。可是,事實並非如此,或者說,並沒有他想象的那麼容易。這突然間一下子的轉行,卻使他的生意遠不如從前了,因為他經常會對不同的種類的老虎和狗狗的玩偶種類做出錯誤的判斷,會誤以為名貴的為廉價的,而賣出的時候以一個低價賣出,導致自己的利潤大大降低。
這時候,他只能重新開始學習大量的不同的種類的狗狗和老虎的細節特徵,來儘量提升自己的利潤。
後來,功夫不負有心人,憑藉他以往積累的客戶和他的努力,又重新打開了一片市場,獲取了高額的利潤,最終,他開開心心的開啟某搶票軟體,開通VIP搶票包,順利的搶到了元旦回家的車票。
好吧,故事就是這樣的,好像並不怎麼好玩,接下來是正題了:
模型
商人:不管他是叫是CNN,還是RNN,還是GAN,商人是遷移學習中需要用到的模型~
源域
貓咪
源域:具體地,在遷移學習中,我們已有的知識叫做源域(source domain)
目標域
狗狗和老虎的玩偶
目標域:要學習的新知識叫目標域(target domain)。
多工學習
同時學習不同種類的狗狗和老虎的玩偶的特點。
負遷移
從貓遷移到狗,它們之間的相似度不高,即同一模型,對於資料的相似度不高的情況下,遷移的效果會出現副作用的情況,為負遷移。
產生負遷移的原因主要有:
1、源域和目標域壓根不相似,談何遷移?——資料問題(貓和狗的玩偶)
2、源域和目標域是相似的,但是,遷移學習方法不夠好,沒找到可遷移的成分。 ——–方法問題(毛和老虎的玩偶)
本文來自我的公眾號,歡迎大家掃碼關注,或者直接搜尋“這麼巧你也有超能力”進行關注,公眾號周更,主要是推送機器學習、深度學習相關知識以及菜譜。