1. 程式人生 > 其它 >【BP預測】基於果蠅演算法改進BP神經網路實現資料預測

【BP預測】基於果蠅演算法改進BP神經網路實現資料預測

一、 BP神經網路預測演算法簡介

說明:1.1節主要是概括和幫助理解考慮影響因素的BP神經網路演算法原理,即常規的BP模型訓練原理講解(可根據自身掌握的知識是否跳過)。1.2節開始講基於歷史值影響的BP神經網路預測模型。

使用BP神經網路進行預測時,從考慮的輸入指標角度,主要有兩類模型:

1.1 受相關指標影響的BP神經網路演算法原理

如圖一所示,使用MATLAB的newff函式訓練BP時,可以看到大部分情況是三層的神經網路(即輸入層,隱含層,輸出層)。這裡幫助理解下神經網路原理:
1)輸入層:相當於人的五官,五官獲取外部資訊,對應神經網路模型input埠接收輸入資料的過程。
2)隱含層:對應人的大腦,大腦對五官傳遞來的資料進行分析和思考,神經網路的隱含層hidden Layer對輸入層傳來的資料x進行對映,簡單理解為一個公式hiddenLayer_output=F(w*x+b)。其中,w、b叫做權重、閾值引數,F()為對映規則,也叫啟用函式,hiddenLayer_output是隱含層對於傳來的資料對映的輸出值。換句話說,隱含層對於輸入的影響因素資料x進行了對映,產生了對映值。
3)輸出層:可以對應為人的四肢,大腦對五官傳來的資訊經過思考(隱含層對映)之後,再控制四肢執行動作(向外部作出響應)。類似地,BP神經網路的輸出層對hiddenLayer_output再次進行對映,outputLayer_output=w *hiddenLayer_output+b。其中,w、b為權重、閾值引數,outputLayer_output是神經網路輸出層的輸出值(也叫模擬值、預測值)(理解為,人腦對外的執行動作,比如嬰兒拍打桌子)。
4)梯度下降演算法:通過計算outputLayer_output和神經網路模型傳入的y值之間的偏差,使用演算法來相應調整權重和閾值等引數。這個過程,可以理解為嬰兒拍打桌子,打偏了,根據偏離的距離遠近,來調整身體使得再次揮動的胳膊不斷靠近桌子,最終打中。

再舉個例子來加深理解:

圖一所示BP神經網路,具備輸入層、隱含層和輸出層。BP是如何通過這三層結構來實現輸出層的輸出值outputLayer_output,不斷逼近給定的y值,從而訓練得到一個精準的模型的呢?

從圖中串起來的埠,可以想到一個過程:坐地鐵,將圖一想象為一條地鐵線路。王某某坐地鐵回家的一天:在input起點站上車,中途經過了很多站(hiddenLayer),然後發現坐過頭了(outputLayer對應現在的位置),那麼王某某將會根據現在的位置離家(目標Target)的距離(誤差Error),返回到中途的地鐵站(hiddenLayer)重新坐地鐵(誤差反向傳遞,使用梯度下降演算法更新w和b),如果王某某又一次發生失誤,那麼將再次進行這個調整的過程。

從在嬰兒拍打桌子和王某某坐地鐵的例子中,思考問題:BP的完整訓練,需要先傳入資料給input,再經過隱含層的對映,輸出層得到BP模擬值,根據模擬值與目標值的誤差,來調整引數,使得模擬值不斷逼近目標值。比如(1)嬰兒受到了外界的干擾因素(x),從而作出反應拍桌(predict),大腦不斷的調整胳膊位置,控制四肢拍準(y、Target)。(2)王某某上車點(x),過站點(predict),不斷返回中途站來調整位置,到家(y、Target)。

在這些環節中,涉及了影響因素資料x,目標值資料y(Target)。根據x,y,使用BP演算法來尋求x與y之間存在的規律,實現由x來對映逼近y,這就是BP神經網路演算法的作用。再多說一句,上述講的過程,都是BP模型訓練,那麼最終得到的模型雖然訓練準確,但是找到的規律(bp network)是否準確與可靠呢。於是,我們再給x1到訓練好的bp network中,得到相應的BP輸出值(預測值)predict1,通過作圖,計算Mse,Mape,R方等指標,來對比predict1和y1的接近程度,就可以知道模型是否預測準確。這是BP模型的測試過程,即實現對資料的預測,並且對比實際值檢驗預測是否準確。

圖一 3層BP神經網路結構圖

1.2 基於歷史值影響的BP神經網路

以電力負荷預測問題為例,進行兩種模型的區分。在預測某個時間段內的電力負荷時:

一種做法,是考慮t時刻的氣候因素指標,比如該時刻的空氣溼度x1,溫度x2,以及節假日x3等的影響,對t時刻的負荷值進行預測。這是前面1.1所說的模型。

另一種做法,是認為電力負荷值的變化,與時間相關,比如認為t-1,t-2,t-3時刻的電力負荷值與t時刻的負荷值有關係,即滿足公式y(t)=F(y(t-1),y(t-2),y(t-3))。採用BP神經網路進行訓練模型時,則輸入到神經網路的影響因素值為歷史負荷值y(t-1),y(t-2),y(t-3),特別地,3叫做自迴歸階數或者延遲。給到神經網路中的目標輸出值為y(t)。

二、果蠅演算法

智慧演算法-果蠅演算法

1、啟發

果蠅是一種廣泛存在於溫帶和熱帶地區的昆蟲,具有優於其他物種的嗅覺和視覺能力. 在尋找食物時,果蠅個體先利用自身嗅覺器官嗅到食物的氣味,並向周圍的果蠅傳送氣味資訊,或者從周圍的果蠅接收氣味資訊;之後果蠅利用其視覺器官,通過比較得出當前群體中收集到最好氣味資訊的果蠅位置,群體中的其他果蠅均飛向該位置,並繼續展開搜尋. 圖 1展示了果蠅群體搜尋食物的簡要過程.​

2、方向和距離

隨機初始果蠅群體位置。

​​

3、氣味濃度判斷值

由於無法知道食物的位置,因此首先估計到源頭的距離(dist),然後計算氣味濃度判斷值(s),該值是距離的倒數。

​​

4、適應度評估

氣味濃度判斷值代入氣味濃度判斷函式(或稱為適應度函式),找出果蠅個體位置的氣味濃度。

​​

5、尋找最優個體

找出果蠅群中氣味濃度最大的果蠅(尋找最優個體)。

​​

6、飛行

保持最佳的氣味濃度值和x , y x,yx,y座標,此時果蠅群將利用視覺飛向該位置。

​​

7、迭代優化

進入迭代優化,重複執行步驟2~5然後判斷氣味濃度是否優於之前的迭代氣味濃度,如果是,則執行步驟6。

三、部分程式碼

%% FOA封裝程式
clc;
clear;
for gen=1:30
%% 初始化引數
maxgen=100; %最大迭代次數
sizepop=50;
dim=30;
L=1;
%% 初始化矩陣
X_best=zeros(maxgen,dim);
Y_best=zeros(maxgen,dim);
Smell_best=zeros(1,maxgen);
%% 初始化果蠅座標;
X_axis=10*rand(1,dim);
Y_axis=10*rand(1,dim);
%% 生成果蠅群
[Si,X,Y]=gengrate_foa(X_axis,Y_axis,sizepop,dim,L);
%% 尋找最優個體
[BestSmell,Index]=find_Sum_Square(Si);
SmellBest=BestSmell;               %SmellBest為全域性最優
%% 取出最優個體的兩個維度的X,Y座標
X_axis=X(Index,:);
Y_axis=Y(Index,:);
for g=1:maxgen
    %% 生成果蠅群
    [Si,X,Y]=gengrate_foa(X_axis,Y_axis,sizepop,dim,L);
    %% 尋找最優個體
    [BestSmell,Index]=find_Sum_Square(Si);
    if BestSmell<SmellBest
        X_axis=X(Index,:);
        Y_axis=Y(Index,:);    
        %更新極值
        SmellBest=BestSmell;
    end
    Smell_best(g)=SmellBest;
    X_best(g,:)=X_axis;
    Y_best(g,:)=Y_axis;
end
    S(gen)=SmellBest;
end
%% 輸出最終值
SmellBest
%% 繪製圖像
figure(1)
plot(Smell_best,'b');   %繪製每一代最優濃度值
figure(2)
hold on
plot(X_best(:,1),Y_best(:,1),'r.');%繪製果蠅群X_axis,Y_axis的變化
plot(X_best(:,2),Y_best(:,2),'b.');
plot(X_best(:,3),Y_best(:,3),'k.');
figure(3)
plot(X(:,1),Y(:,1),'b.');%繪製最後一代的果蠅群;
mean(S)
min(S)
std(S)

四、模擬結果

圖2果蠅演算法收斂曲線

測試統計如下表所示

測試結果測試集正確率訓練集正確率
BP神經網路 100% 95%
FOA-BP 100% 99.8%

五、參考文獻及程式碼私信博主

《基於BP神經網路的寧夏水資源需求量預測》