基於神經網路整合學習的研究論文推薦
Evaluating Deep Neural Network Ensembles by Majority Voting cum Meta-Learning scheme
https://arxiv.org/pdf/2105.03819
Anmol Jain, Aishwary Kumar, Seba Susan
深度神經網路 (DNN) 容易過度擬合，過擬合的網路會導致對於新的資料例項表現不佳。該論文提出了不使用單個 DNN 作為分類器，而是使用一個由七個獨立 DNN 學習器組成的集合，這些DNN都會保持它們的架構和內在屬性相同，但是使用不同的資料輸入。為了在訓練輸入中引入多樣性， 每一個DNN將會刪除七分之一的輸入資料，並從剩餘的樣本中通過bootstrap抽樣進行補充。論文提出了一種新的技術來結合DNN學習者的預測。這種方法被稱 pre-filtering by majority voting coupled with stacked meta-learner，它在分配最終類標籤之前對預測執行兩步置信度檢查。論文將所有演算法在人類活動識別(Human Activity Recognition, HAR)、氣體感測器陣列漂移(Gas sensor array drift)、Isolet、垃圾郵件(Spam-base)和網際網路廣告五個基準資料集上進行了測試，發現所提出的整合方法比單個DNN和多DNN的平均整合，以及多元化投票和元學習的基線方法獲得了更高的準確率
Online parameter inference for the simulation of a Bunsen flame using heteroscedastic Bayesian neural network ensembles
https://arxiv.org/pdf/2104.13201
Maximilian L. Croci, Ushnish Sengupta, Matthew P. Juniper
本文提出了一種貝葉斯資料驅動的機器學習方法，用於管道預混火焰g方程模型引數的線上推理。利用g方程求解器LSGEN2D模擬170萬個火焰鋒面，訓練貝葉斯神經網路集合，學習給定觀測值的模型引數的貝葉斯後驗分佈。然後推斷本生火焰實驗的引數，以便在LSGEN2D中模擬這些實驗的動力學過程。、
Transfer Learning with Ensembles of Deep Neural Networks for Skin Cancer Detection in Imbalanced Data Sets
https://arxiv.org/pdf/2103.12068
完整文章：
https://avoid.overfit.cn/post/3e81caca08c14a51a53e3c4180a9e820