(轉)用遺傳演算法優化BP神經網路的Matlab程式設計例項
阿新 • • 發佈:2019-02-03
此文章首次在simwe公開發表,屬於GreenSim團隊原創作品,轉載請註明!
由於BP網路的權值優化是一個無約束優化問題,而且權值要採用實數編碼,所以直接利用Matlab遺傳演算法工具箱。以下貼出的程式碼是為一個19輸入變數,1個輸出變數情況下的非線性迴歸而設計的,如果要應用於其它情況,只需改動編解碼函式即可。
程式一:GA訓練BP權值的主函式
function net=GABPNET(XX,YY)
%--------------------------------------------------------------------------
% GABPNET.m
% 使用遺傳演算法對BP網路權值閾值進行優化,再用BP演算法訓練網路
%--------------------------------------------------------------------------
%資料 歸一化預處理
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
%建立網路
net=newff(minmax(XX),[19,25,1],{'tansig','tansig','purelin'},'trainlm');
%下面使用遺傳演算法對網路進行優化
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
aa=ones(S,1)*[-1,1];
popu=50;%種群規模
initPpp=initializega(popu,aa,'gabpEval');%初始化種群
gen=100;%遺傳代數
%下面呼叫gaot工具箱,其中目標函式定義 為gabpEval
[x,endPop,bPop,trace]=ga(aa,'gabpEval',[],initPpp,[1e-6 1 1],'maxGenTerm',gen,...
'normGeomSelect',[0.09],['arithXover'],[2],'nonUnifMutation',[2 gen 3]);
%繪收斂曲線圖
figure(1)
plot(trace(:,1),1./trace(:,3),'r-');
hold on
plot(trace(:,1),1./trace(:,2),'b-');
xlabel('Generation');
ylabel('Sum-Squared Error');
figure(2)
plot(trace(:,1),trace(:,3),'r-');
hold on
plot(trace(:,1),trace(:,2),'b-');
xlabel('Generation');
ylabel('Fittness');
%下面將初步得到的權值矩陣賦給尚未開始訓練的BP網路
[W1,B1,W2,B2,P,T,A1,A2,SE,val]=gadecod(x);
net.LW{2,1}=W1;
net.LW{3,2}=W2;
net.b{2,1}=B1;
net.b{3,1}=B2;
XX=P;
YY=T;
%設定 訓練引數
net.trainParam.show=1;
net.trainParam.lr=1;
net.trainParam.epochs=50;
net.trainParam.goal=0.001;
%訓練網路
net=train(net,XX,YY);
程式二:適應值函式
function [sol, val] = gabpEval(sol,options)
% val - the fittness of this individual
% sol - the individual, returned to allow for Lamarckian evolution
% options - [current_generation]
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
for i=1:S,
x(i)=sol(i);
end;
[W1, B1, W2, B2, P, T, A1, A2, SE, val]=gadecod(x);
程式三:編解碼函式
function [W1, B1, W2, B2, P, T, A1, A2, SE, val]=gadecod(x)
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
% 前R*S1個編碼為W1
for i=1:S1,
for k=1:R,
W1(i,k)=x(R*(i-1)+k);
end
end
% 接著的S1*S2個編碼(即第R*S1個後的編碼)為W2
for i=1:S2,
for k=1:S1,
W2(i,k)=x(S1*(i-1)+k+R*S1);
end
end
% 接著的S1個編碼(即第R*S1+S1*S2個後的編碼)為B1
for i=1:S1,
B1(i,1)=x((R*S1+S1*S2)+i);
end
% 接著的S2個編碼(即第R*S1+S1*S2+S1個後的編碼)為B2
for i=1:S2,
B2(i,1)=x((R*S1+S1*S2+S1)+i);
end
% 計算S1與S2層的輸出
A1=tansig(W1*P,B1);
A2=purelin(W2*A1,B2);
% 計算誤差平方和
SE=sumsqr(T-A2);
val=1/SE; % 遺傳演算法的適應值
注意:上面的函式需要呼叫gaot工具箱,請從附件裡下載!
由於BP網路的權值優化是一個無約束優化問題,而且權值要採用實數編碼,所以直接利用Matlab遺傳演算法工具箱。以下貼出的程式碼是為一個19輸入變數,1個輸出變數情況下的非線性迴歸而設計的,如果要應用於其它情況,只需改動編解碼函式即可。
程式一:GA訓練BP權值的主函式
function net=GABPNET(XX,YY)
%--------------------------------------------------------------------------
% GABPNET.m
% 使用遺傳演算法對BP網路權值閾值進行優化,再用BP演算法訓練網路
%--------------------------------------------------------------------------
%資料
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
%建立網路
net=newff(minmax(XX),[19,25,1],{'tansig','tansig','purelin'},'trainlm');
%下面使用遺傳演算法對網路進行優化
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
aa=ones(S,1)*[-1,1];
popu=50;%種群規模
initPpp=initializega(popu,aa,'gabpEval');%初始化種群
gen=100;%遺傳代數
%下面呼叫gaot工具箱,其中目標函式定義
[x,endPop,bPop,trace]=ga(aa,'gabpEval',[],initPpp,[1e-6 1 1],'maxGenTerm',gen,...
'normGeomSelect',[0.09],['arithXover'],[2],'nonUnifMutation',[2 gen 3]);
%繪收斂曲線圖
figure(1)
plot(trace(:,1),1./trace(:,3),'r-');
hold on
plot(trace(:,1),1./trace(:,2),'b-');
xlabel('Generation');
ylabel('Sum-Squared Error');
figure(2)
plot(trace(:,1),trace(:,3),'r-');
hold on
plot(trace(:,1),trace(:,2),'b-');
xlabel('Generation');
ylabel('Fittness');
%下面將初步得到的權值矩陣賦給尚未開始訓練的BP網路
[W1,B1,W2,B2,P,T,A1,A2,SE,val]=gadecod(x);
net.LW{2,1}=W1;
net.LW{3,2}=W2;
net.b{2,1}=B1;
net.b{3,1}=B2;
XX=P;
YY=T;
%設定
net.trainParam.show=1;
net.trainParam.lr=1;
net.trainParam.epochs=50;
net.trainParam.goal=0.001;
%訓練網路
net=train(net,XX,YY);
程式二:適應值函式
function [sol, val] = gabpEval(sol,options)
% val - the fittness of this individual
% sol - the individual, returned to allow for Lamarckian evolution
% options - [current_generation]
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
for i=1:S,
x(i)=sol(i);
end;
[W1, B1, W2, B2, P, T, A1, A2, SE, val]=gadecod(x);
程式三:編解碼函式
function [W1, B1, W2, B2, P, T, A1, A2, SE, val]=gadecod(x)
load data2
nntwarn off
XX=premnmx(XX);
YY=premnmx(YY);
P=XX;
T=YY;
R=size(P,1);
S2=size(T,1);
S1=25;%隱含層節點數
S=R*S1+S1*S2+S1+S2;%遺傳演算法編碼長度
% 前R*S1個編碼為W1
for i=1:S1,
for k=1:R,
W1(i,k)=x(R*(i-1)+k);
end
end
% 接著的S1*S2個編碼(即第R*S1個後的編碼)為W2
for i=1:S2,
for k=1:S1,
W2(i,k)=x(S1*(i-1)+k+R*S1);
end
end
% 接著的S1個編碼(即第R*S1+S1*S2個後的編碼)為B1
for i=1:S1,
B1(i,1)=x((R*S1+S1*S2)+i);
end
% 接著的S2個編碼(即第R*S1+S1*S2+S1個後的編碼)為B2
for i=1:S2,
B2(i,1)=x((R*S1+S1*S2+S1)+i);
end
% 計算S1與S2層的輸出
A1=tansig(W1*P,B1);
A2=purelin(W2*A1,B2);
% 計算誤差平方和
SE=sumsqr(T-A2);
val=1/SE; % 遺傳演算法的適應值
注意:上面的函式需要呼叫gaot工具箱,請從附件裡下載!