通常,機器學習模型沒有經過訓練,無法通過將知識從一種模型轉移到另一種模型來工作。這里的知識意味著在每個層中獲得的更新的權重和偏差。因此,遷移學習可以利用從一項任務中獲得的知識來解決相關的其他任務。
使用遷移學習的主要好處是,它可以通過再次使用已開發模型的模塊或部分來加快開發和訓練模型的時間。這不僅加快了模型訓練過程,還提高了訓練效果。
遷移學習和機器學習之間的區別
機器學習與遷移學習
傳統機器學習(ML)被稱為孤立的,因為知識沒有積累。而且,這是一項單任務學習,因為學習是在沒有將過去的知識納入任何其他任務的情況下完成的。從上面的圖可以推斷,數據直接傳遞到學習系統或訓練模型,并且每個模型都經過訓練而無需從其他學習系統轉移知識。
在遷移學習中,該概念與傳統機器學習完全相反,因為新任務的學習依賴于先前學習的任務。有了這個動作,輸出的準確性將好得多,過程將得到加強。從上圖中可以清楚地看到,經過訓練的模型與其他學習系統進行了知識(權重、特性等)的轉移或共享。
遷移學習與機器學習的演示
讓我們借助一個示例來了解遷移學習與傳統機器學習之間的區別。假設一個人擁有一個龐大的數據集,其中包含不同種類的物體的圖像,并且該人必須對汽車,卡車或其他車輛的圖像進行分類。使用傳統的機器學習,圖像必須通過卷積神經網絡,而這將是第一次訓練。然后將提取特征,并在其他CNN論循之后進行圖像分類。另一方面,在遷移學習中,將使用預訓練的卷積神經網絡模型,該模型可能來自其他學習系統,這將為圖像分類提供更好的準確結果。遷移學習正受到機器學習專家的廣泛關注。
遷移學習的類別
到目前為止,我們已經討論了遷移學習的核心含義,而沒有深入探討其數學概念。這些遷移學習策略取決于數據的領域和可用性。因此,根據所涉及的機器學習算法,遷移學習技術大致分為三類:

Inductive Transfer Learning:-這里的源任務和目標任務互不相同,但是源域和目標域是相同的。AI算法通過嘗試使用源域來幫助改善目標任務。Unsupervised Transfer Learning:-這種技術與Inductive法非常相似,唯一的區別是任務在目標域中是無監督的。這里的任務也不同,源域和目標域相似。這里沒有標簽數據。Transductive Transfer Learning:-該技術與上述兩種技術完全不同。在這里,源域和目標域彼此不同,而任務有些相似。源域中有很多帶標簽的數據,而目標域中沒有數據。
遷移學習策略的類型
現在,遷移學習可以應用于不同的設置,但是轉移什么是主要問題。因此,這個答案在于不同的方法。因此,我將簡要介紹這些方法,以便您容易理解這些概念。
Feature Representation Transfer:通過識別可以從源域到目標域使用的良好特征表示,在很大程度上將錯誤率和域差異最小化。Relational-knowledge transfer::這種方法試圖處理非IID數據,例如非獨立且分布數據。在此,每個數據點與其他數據點都有關系。Instance Transfer:在大多數情況下,無法直接重用源域數據。源域中的某些實例可以與目標數據一起重用以改善結果。從源域到目標任務重用知識通常是理想的方案。Parameter Transfer:該方法假設相關任務的模型共享某些參數或超參數的先驗分布。與同時學習源任務和目標任務的多任務學習不同,對于遷移學習,我們可以對目標域的損失施加額外的權重,以提高整體性能。
遷移學習的優勢
遷移學習除了上面提到的優點外,這里做下補充:
可以構建更強大的機器學習模型來執行各種任務。知識可以很容易地從一種機器學習模型轉移到另一種機器學習模型。有時數據沒有標簽,遷移學習可以解決此類問題。復雜的現實世界問題可以通過幾個約束來解決。
遷移學習的弊端
遷移界限:-在遷移學習中,對遷移進行量化是非常重要的。這樣做會影響遷移的質量及其可行性。負遷移:-在很多情況下,我曾談到過通過將權重,偏差等轉移到其他學習系統的方法來提高準確性和性能。但是有時性能可能會下降。負遷移學習是指在知識從源到目標的轉移過程中,學習系統的整體性能下降。照顧這種情況非常必要,需要仔細審查。
結論
本文簡要介紹了遷移學習的概念、與傳統機器學習的區別、遷移學習的類別、優缺點。遷移學習無疑將成為推動機器學習和深度學習在行業的主流應用中取得成功的關鍵因素之一。
評論前必須登錄!
立即登錄 注冊