​

一、 BP神經網路預測演算法簡介

說明：1.1節主要是概括和幫助理解考慮影響因素的BP神經網路演算法原理，即常規的BP模型訓練原理講解（可根據自身掌握的知識是否跳過）。1.2節開始講基於歷史值影響的BP神經網路預測模型。

使用BP神經網路進行預測時，從考慮的輸入指標角度，主要有兩類模型：

1.1 受相關指標影響的BP神經網路演算法原理

如圖一所示，使用MATLAB的newff函式訓練BP時，可以看到大部分情況是三層的神經網路（即輸入層，隱含層，輸出層）。這裡幫助理解下神經網路原理：
1）輸入層：相當於人的五官，五官獲取外部資訊，對應神經網路模型input埠接收輸入資料的過程。
2）隱含層：對應人的大腦，大腦對五官傳遞來的資料進行分析和思考，神經網路的隱含層hidden Layer對輸入層傳來的資料x進行對映，簡單理解為一個公式hiddenLayer_output=F(w*x+b)。其中，w、b叫做權重、閾值引數，F()為對映規則，也叫啟用函式，hiddenLayer_output是隱含層對於傳來的資料對映的輸出值。換句話說，隱含層對於輸入的影響因素資料x進行了對映，產生了對映值。
3）輸出層：可以對應為人的四肢，大腦對五官傳來的資訊經過思考（隱含層對映）之後，再控制四肢執行動作（向外部作出響應）。類似地，BP神經網路的輸出層對hiddenLayer_output再次進行對映，outputLayer_output=w *hiddenLayer_output+b。其中，w、b為權重、閾值引數，outputLayer_output是神經網路輸出層的輸出值（也叫模擬值、預測值）（理解為，人腦對外的執行動作，比如嬰兒拍打桌子）。
4）梯度下降演算法：通過計算outputLayer_output和神經網路模型傳入的y值之間的偏差，使用演算法來相應調整權重和閾值等引數。這個過程，可以理解為嬰兒拍打桌子，打偏了，根據偏離的距離遠近，來調整身體使得再次揮動的胳膊不斷靠近桌子，最終打中。

再舉個例子來加深理解：

圖一所示BP神經網路，具備輸入層、隱含層和輸出層。BP是如何通過這三層結構來實現輸出層的輸出值outputLayer_output，不斷逼近給定的y值，從而訓練得到一個精準的模型的呢？

從圖中串起來的埠，可以想到一個過程：坐地鐵，將圖一想象為一條地鐵線路。王某某坐地鐵回家的一天：在input起點站上車，中途經過了很多站（hiddenLayer），然後發現坐過頭了（outputLayer對應現在的位置），那麼王某某將會根據現在的位置離家（目標Target）的距離（誤差Error），返回到中途的地鐵站（hiddenLayer）重新坐地鐵（誤差反向傳遞，使用梯度下降演算法更新w和b），如果王某某又一次發生失誤，那麼將再次進行這個調整的過程。

從在嬰兒拍打桌子和王某某坐地鐵的例子中，思考問題：BP的完整訓練，需要先傳入資料給input，再經過隱含層的對映，輸出層得到BP模擬值，根據模擬值與目標值的誤差，來調整引數，使得模擬值不斷逼近目標值。比如（1）嬰兒受到了外界的干擾因素（x），從而作出反應拍桌（predict），大腦不斷的調整胳膊位置，控制四肢拍準（y、Target）。（2）王某某上車點（x），過站點（predict），不斷返回中途站來調整位置，到家（y、Target）。

在這些環節中，涉及了影響因素資料x，目標值資料y（Target）。根據x，y，使用BP演算法來尋求x與y之間存在的規律，實現由x來對映逼近y，這就是BP神經網路演算法的作用。再多說一句，上述講的過程，都是BP模型訓練，那麼最終得到的模型雖然訓練準確，但是找到的規律（bp network）是否準確與可靠呢。於是，我們再給x1到訓練好的bp network中，得到相應的BP輸出值（預測值）predict1，通過作圖，計算Mse，Mape，R方等指標，來對比predict1和y1的接近程度，就可以知道模型是否預測準確。這是BP模型的測試過程，即實現對資料的預測，並且對比實際值檢驗預測是否準確。
​
圖一 3層BP神經網路結構圖

1.2 基於歷史值影響的BP神經網路

以電力負荷預測問題為例，進行兩種模型的區分。在預測某個時間段內的電力負荷時：

一種做法，是考慮t時刻的氣候因素指標，比如該時刻的空氣溼度x1，溫度x2，以及節假日x3等的影響，對t時刻的負荷值進行預測。這是前面1.1所說的模型。

另一種做法，是認為電力負荷值的變化，與時間相關，比如認為t-1，t-2，t-3時刻的電力負荷值與t時刻的負荷值有關係，即滿足公式y(t)=F(y(t-1),y(t-2),y(t-3))。採用BP神經網路進行訓練模型時，則輸入到神經網路的影響因素值為歷史負荷值y(t-1),y(t-2),y(t-3)，特別地，3叫做自迴歸階數或者延遲。給到神經網路中的目標輸出值為y(t)。

二、頭腦風暴演算法

​

​

三、部分程式碼

clc
clear
%bso test
tic
funStr = 'Griewangk10D5C'; %output worksheet name
funName = @Griewangk;      % fitness function name
rang_l = -600;            % left of dynamic range rastrigin
rang_r = 600;             % right of dynamic range
%n_p = 500;                % population size
%n_d = 2;                  % dimension
%n_c = 5;                  % number of clusters
%rang_l = -100;            % left of dynamic range
%rang_r = 100;             % right of dynamic range
%max_iteration = 50;       % maximal number of iterations
warning off all
n_p = 100;                 % population size
n_d = 10;                  % dimension
% n_c = 2;                   % number of clusters
% funStr = 'sphere10D5C';   %output worksheet name
% funName = @sphere;        % fitness function name
% rang_l = -100;            % left of dynamic range sphere
% rang_r = 100;             % right of dynamic range
% funStr = 'Minima10D5C'; %output worksheet name
% funName = @Minima;      % fitness function name
% rang_l = -5;            % left of dynamic range rastrigin
% rang_r = 5;             % right of dynamic range
% funStr = 'Griewangk10D5C'; %output worksheet name
% funName = @Griewangk;      % fitness function name
% rang_l = -50;            % left of dynamic range rastrigin
% rang_r = 50;             % right of dynamic range
% funName = @ackley_path;      % fitness function name
% rang_l = -5;            % left of dynamic range rastrigin
% rang_r = 5;             % right of dynamic range
% minpts = 10;
max_iteration = 2000;     % maximal number of iterations
XX=1; 
%P = 0;
 n_c = 2;
%  P = 0.6;
% for P = 0:0.1:1 
for idx = 1:30            % run times
    fit = bso2(funName,n_p,n_d,n_c,rang_l,rang_r,max_iteration);
                           %run BSO one time
    if idx <27
       str = native2unicode(idx + 64);
    else                   % assume idx <53
        str =['A',native2unicode(idx + 38)];
    end
    xlswrite('bso.xls',fit,funStr, [str,'1']); 
                           % output best fitness over generation to EXCEL worksheet for each BSO run
    ['run', num2str(idx)]
    opt(idx,:)=fit;  %可以把列換成行   fit為一列資料
%     plot(x,opt(1,:)
end
opt;
format short g
best_value = min(opt(:,max_iteration))
worst_value = max(opt(:,max_iteration))
[ln col]=size(opt);
out_put(XX,:)=sum(opt)/ln;    %每一列的均值
format short g
m_value = min(out_put(XX,:))
z = 0;
for idx = 1:30
    z = z+(opt(idx,max_iteration)-m_value)^2;
end
SD = z/29
XX=XX+1
% end
% save UUB out_put(n_c,:);
% plot(out_put);
% end
% save UUB out_put(n_c,:);
% plot(opt);
save UUB out_put;
x=1:max_iteration;
% plot(x,out_put(1,:),'b',x,out_put(2,:),'g',x,out_put(3,:),'r',x,out_put(4,:),'c',x,out_put(5,:),'m',x,out_put(6,:),'y',x,out_put(7,:),'k',x,out_put(8,:),'b--',x,out_put(9,:),'g-.',);
% legend('k=2：藍色','k=3：綠色','k=4：紅色','k=5：青色','k=6：品紅色','k=7：黃色','k=8：黑色','k=9','k=10');
plot(x,out_put(1,:))%,'b',x,out_put(2,:),'g',x,out_put(3,:),'r',x,out_put(4,:),'c',x,out_put(5,:),'m',x,out_put(6,:),'y',x,out_put(7,:),'k',x,out_put(8,:),'b--',x,out_put(9,:),'g-.',x,out_put(10,:),'r:',x,out_put(11,:),'c-.');
% legend('P=0','P=0.1','P=0.2','P=0.3','P=0.4','P=0.5','P=0.6','P=0.7','P=0.8','P=0.9','P=1');
toc

四、模擬結果

​

圖2頭腦風暴演算法收斂曲線

測試統計如下表所示

五、參考文獻及程式碼私信博主

《基於BP神經網路的寧夏水資源需求量預測》

​