數模-神經網路

阿新 • • 發佈：2022-05-06

激勵函式

BP網路基本數學原理

基於MATLAB工具箱的公路運量預測

程式碼

clc,clear,close
%% 1.原始資料的輸入
%原始資料
%人數(單位:萬人)
sqrs=[20.55 22.44 25.37 27.13 29.45 30.10 30.96 34.06 36.42 38.09 39.13 39.99...
      41.93 44.59 47.30 52.89 55.73 56.76 59.17 60.63];
%機動車數(單位:萬輛)
sgjdcs=[0.6 0.75 0.85 0.9 1.05 1.35 1.45 1.6 1.7 1.85 2.15 2.2 2.25 2.35 2.5 2.6...
        2.7 2.85 2.95 3.1];
%公路面積(單位:萬平方千米）
saglmj=[0.09 0.11 0.11 0.14 0.20 0.23 0.23 0.32 0.32 0.34 0.36 0.36 0.38 0.49 ...
        0.56 0.59 0.59 0.67 0.69 0.79];
%公路客運量(單位:萬人)
glkyl=[5126 6217 7730 9145 10460 11387 12353 15750 18304 19836 21024 19490 20433 ...
       22598 25107 33442 36836 40548 42927 43462];
%公路貨運量(單位:萬噸)
glhyl=[1237 1379 1385 1399 1663 1714 1834 4322 8132 8936 11099 11203 10524 11115 ...
       13320 16762 18673 20724 20803 21804];
p=[sqrs;sgjdcs;saglmj];%輸入資料矩陣
t=[glkyl;glhyl];%目標資料矩陣

%% 2.對輸入資料矩陣和目標矩陣的資料進行歸一化
%利用函式premnmx對資料進行歸一化
[pn,minp,maxp,tn,mint,maxt]= premnmx(p,t);%對於輸人矩陣p和輸出矩陣t進行歸一化處理
dx =[-1,1;-1,1;-1,1];%歸一化處理後最小值為一1,最大值為1

%% 3.利用處理好的資料對網路進行訓練
% BP網路訓練
net = newff(dx,[3,7,2],{'tansig','tansig','purelin'},'traingdx');%建立模型,並用梯度下降法訓練
net.trainParam.show=1000; %1000輪迴顯示一次結果
net.trainParam.Lr=0.05;%學習速率為0.05
net.trainParam.epochs =50000;%最大訓練輪迴為50000次
net.trainParam.goal=0.65 * 10^(-3);%均方誤差
net =train(net,pn, tn);%開始訓練，其中pn,tn分別為輸人輸出樣本

%% 4.利用訓練好的BP網路對原始資料進行模擬
%利用原始資料對BP網路模擬
an = sim(net, pn);%用訓練好的模型進行模擬
a = postmnmx(an,mint,maxt);%把模擬得到的資料還原為原始的數量級

%% 5.用原始資料模擬的結果與已知資料進行對比測試
%本例因樣本容量有限使用訓練資料進行測試,通常必須用新鮮資料進行測試
x=1990:2009;
newk =a(1,:);
newh =a(2,:);
figure(2);
subplot(2,1,1);plot(x,newk,'r-o',x,glkyl,'b--+');%繪值公路客運量對比圖
legend('網路輸出客運量','實際客運量');
xlabel('年份');ylabel('客運量/萬人');
title('運用工具箱客運量學習和測試對比圖');
subplot(2,1,2);plot(x,newh,'r-o',x,glhyl,'b--+');%繪製公路貨運量對比圖
legend('網路輸出貨運量','實際貨運量');
xlabel('年份');ylabel('貨運量/萬噸');
title('運用工具箱貨運量學習和測試對比圖');%利用訓練好的網路進行預測

%% 利用訓練好的BP網路對新資料進行模擬
%利用訓練好的網路進行預測
%當用訓練好的網路對新資料 pnew進行預測時,也應作相應的處理
pnew=[73.39 75.55
      3.9635 4.0975
      0.9880 1.0268];%2010年和2011年的相關資料
pnewn=tramnmx(pnew ,minp,maxp);%利用原始輸人資料的歸一化引數對新資料進行歸一化
anewn = sim(net,pnewn);%利用歸一化後的資料進行模擬
anew =postmnmx(anewn,mint, maxt)%把模擬得到的資料還原為原始的數量級

網路的學習曲線

擬合曲線

注！！！上述的原始資料是按行排列的，一行是一個指標，也可以按列排列，但是需要修改格式

神經網路相關函式

激勵函式例項

資料預處理和後期處理

基於MATLAB源程式的公路運量預測

程式碼：

function main()
clc                          % 清屏
clear all;                  %清除記憶體以便加快運算速度
close all;                  %關閉當前所有figure影象
SamNum=20;                  %輸入樣本數量為20
TestSamNum=20;              %測試樣本數量也是20
ForcastSamNum=2;            %預測樣本數量為2
HiddenUnitNum=8;            %中間層隱節點數量取8,比工具箱程式多了1個
InDim=3;                    %網路輸入維度為3
OutDim=2;                   %網路輸出維度為2

%原始資料 
%人數(單位：萬人)
sqrs=[20.55 22.44 25.37 27.13 29.45 30.10 30.96 34.06 36.42 38.09 39.13 39.99 ...
       41.93 44.59 47.30 52.89 55.73 56.76 59.17 60.63];
%機動車數(單位：萬輛)
sqjdcs=[0.6 0.75 0.85 0.9 1.05 1.35 1.45 1.6 1.7 1.85 2.15 2.2 2.25 2.35 2.5 2.6...
        2.7 2.85 2.95 3.1];
%公路面積(單位：萬平方公里)
sqglmj=[0.09 0.11 0.11 0.14 0.20 0.23 0.23 0.32 0.32 0.34 0.36 0.36 0.38 0.49 ... 
         0.56 0.59 0.59 0.67 0.69 0.79];
%公路客運量(單位：萬人)
glkyl=[5126 6217 7730 9145 10460 11387 12353 15750 18304 19836 21024 19490 20433 ...
        22598 25107 33442 36836 40548 42927 43462];
%公路貨運量(單位：萬噸)
glhyl=[1237 1379 1385 1399 1663 1714 1834 4322 8132 8936 11099 11203 10524 11115 ...
        13320 16762 18673 20724 20803 21804];
p=[sqrs;sqjdcs;sqglmj];  %輸入資料矩陣
t=[glkyl;glhyl];           %目標資料矩陣
[SamIn,minp,maxp,tn,mint,maxt]=premnmx(p,t); %原始樣本對（輸入和輸出）初始化

rand('state',sum(100*clock))   %依據系統時鐘種子產生隨機數         
NoiseVar=0.01;                    %噪聲強度為0.01（新增噪聲的目的是為了防止網路過度擬合）
Noise=NoiseVar*randn(2,SamNum);   %生成噪聲
SamOut=tn + Noise;                   %將噪聲新增到輸出樣本上

TestSamIn=SamIn;                           %這裡取輸入樣本與測試樣本相同因為樣本容量偏少
TestSamOut=SamOut;                         %也取輸出樣本與測試樣本相同

MaxEpochs=50000;                              %最多訓練次數為50000
lr=0.035;                                       %學習速率為0.035
E0=0.65*10^(-3);                              %目標誤差為0.65*10^(-3)
W1=0.5*rand(HiddenUnitNum,InDim)-0.1;   %初始化輸入層與隱含層之間的權值
B1=0.5*rand(HiddenUnitNum,1)-0.1;       %初始化輸入層與隱含層之間的閾值
W2=0.5*rand(OutDim,HiddenUnitNum)-0.1; %初始化輸出層與隱含層之間的權值              
B2=0.5*rand(OutDim,1)-0.1;                %初始化輸出層與隱含層之間的閾值

ErrHistory=[];                              %給中間變數預先佔據記憶體
for i=1:MaxEpochs
    
    HiddenOut=logsig(W1*SamIn+repmat(B1,1,SamNum)); % 隱含層網路輸出
    NetworkOut=W2*HiddenOut+repmat(B2,1,SamNum);    % 輸出層網路輸出
    Error=SamOut-NetworkOut;                       % 實際輸出與網路輸出之差
    SSE=sumsqr(Error)                               %能量函式（誤差平方和）

    ErrHistory=[ErrHistory SSE];

    if SSE<E0,break, end      %如果達到誤差要求則跳出學習迴圈
    
    % 以下六行是BP網路最核心的程式
    % 他們是權值（閾值）依據能量函式負梯度下降原理所作的每一步動態調整量
    Delta2=Error;
    Delta1=W2'*Delta2.*HiddenOut.*(1-HiddenOut);    

    dW2=Delta2*HiddenOut';
    dB2=Delta2*ones(SamNum,1);
    
    dW1=Delta1*SamIn';
    dB1=Delta1*ones(SamNum,1);
    %對輸出層與隱含層之間的權值和閾值進行修正
    W2=W2+lr*dW2;
    B2=B2+lr*dB2;
    %對輸入層與隱含層之間的權值和閾值進行修正
    W1=W1+lr*dW1;
    B1=B1+lr*dB1;
end

HiddenOut=logsig(W1*SamIn+repmat(B1,1,TestSamNum)); % 隱含層輸出最終結果
NetworkOut=W2*HiddenOut+repmat(B2,1,TestSamNum);    % 輸出層輸出最終結果
a=postmnmx(NetworkOut,mint,maxt);               % 還原網路輸出層的結果
x=1990:2009;                                        % 時間軸刻度
newk=a(1,:);                                        % 網路輸出客運量
newh=a(2,:);                                        % 網路輸出貨運量
figure ;
subplot(2,1,1);plot(x,newk,'r-o',x,glkyl,'b--+')    %繪值公路客運量對比圖；
legend('網路輸出客運量','實際客運量');
xlabel('年份');ylabel('客運量/萬人');
subplot(2,1,2);plot(x,newh,'r-o',x,glhyl,'b--+')     %繪製公路貨運量對比圖；
legend('網路輸出貨運量','實際貨運量');
xlabel('年份');ylabel('貨運量/萬噸');

% 利用訓練好的網路進行預測
% 當用訓練好的網路對新資料pnew進行預測時，也應作相應的處理
pnew=[73.39 75.55
      3.9635 4.0975
      0.9880 1.0268];                     %2010年和2011年的相關資料；
pnewn=tramnmx(pnew,minp,maxp);         %利用原始輸入資料的歸一化引數對新資料進行歸一化；
HiddenOut=logsig(W1*pnewn+repmat(B1,1,ForcastSamNum)); % 隱含層輸出預測結果
anewn=W2*HiddenOut+repmat(B2,1,ForcastSamNum);           % 輸出層輸出預測結果

%把網路預測得到的資料還原為原始的數量級；
anew=postmnmx(anewn,mint,maxt)