《神经网络遗传算法函数极值寻优.docx》由会员分享，可在线阅读，更多相关《神经网络遗传算法函数极值寻优.docx（16页珍藏版）》请在三一办公上搜索。
1、精选优质文档-倾情为你奉上 Beijing Jiaotong University 智能控制技术报告神经网络遗传算法函数极值寻优学 院：电子信息工程学院学 号：姓 名:指导教师：时 间：2014.11.29目录一、 课题背景在研究中经常会遇到一些非常复杂的非线性系统，这些系统方程复杂，难以用数学方法准确建模。在这种情况下，可以建立BP神经网络表达这些非线性系统。该方法把系统看成是一个黑箱，首先用系统输入输出数据训练BP神经网络，使网络能够表达该未知函数，然后就可以用训练好的BP神经网络预测系统输出。对于未知的非线性函数，仅通过函数的输入输出数据难以准确寻找函数极值。遗传算法通过模拟自然界遗传机
2、制和生物进化论能够进行并行随机搜索最优化，所以对非线性函数极值寻优可以通过神经网络结合遗传算法求解。利用神经网络的非线性拟合能力和遗传算法的非线性寻优能力寻找函数极值。本文拟合的非线性函数为：fx=-xx2-3.2x+2.89x-32 x0,3该函数的图形如图所示：图1-1待拟合函数图形从函数方程和图形可以看出，该函数仅有一个全局最大值为0.9655，对应的坐标是（0.537,0.9655）。虽然从函数方程和图形中很容易找出函数及极值对应的坐标，但是在方程未知的条件下函数极值及极值对应的坐标就很难求到。二、 模型建立2.1 算法流程神经网络遗传算法函数极值寻优主要分为BP神经网络训练拟合和遗传
3、算法极值寻优两步，算法流程如图所示：图2-1算法流程图神经网络训练拟合根据寻优函数的特点构建适合的BP神经网络，用非线性函数的输入输出数据训练BP神经网络，训练后的神经网络就可以预测函数输出。遗传算法极值寻优把训练后的BP神经网络预测结果作为个体适应度值，通过选择、交叉和变异操作寻找函数的全局最优值及对应的值。2.2 BP算法实现2.2.1 数据选择和归一化数据归一化是神经网络训练和预测前对数据常做的一种处理方法。数据归一化处理把所有的数据都归一化为0,1之间的数，其目的是取消各维数据间数量级差别，避免因为输入输出数据数量级差别较大而造成训练失败或者预测误差较大。数据归一化可以使用MATLAB
4、自带函数mapminmax，该函数有多种形式，常用的方法如下：%样本输入输出数据归一化inputn,inputps=mapminmax(input_train);outputn,outputps=mapminmax(output_train);input_train、output_train是训练输入、输出原始数据，inputn、outputn是归一化后的数据，inputps、outputps为数据归一化后得到的结构体，里面包含了数据的最大值、最小值和平均值等信息，可以用于测试数据归一化和反归一化。测试数据归一化和反归一化程序一般如下：%数据归一化inputn_test=mapminmax(a
5、pply,input_test,inputps); %网络输出反归一化BPoutput=mapminmax(reverse,an,outputps);input_test是预测输入数据，input_test是归一化后的预测数据，apply表示根据inputps进行归一化；an是网络预测结果，outputs是训练输出数据归一化得到的结构体，BPoutput是反归一化后的网络预测输出，reverse表示对数据进行反归一化。2.2.2 BP神经网络训练用训练数据训练神经网络，使网络对非线性函数具有预测能力。MATLAB神经网络工具箱中自带BP神经网络函数，使用时只需要调用相关的子程序即可。BP神经网
6、络训练主要用到newff、sim两个函数。1. newff：BP神经网络参数设置函数函数功能：构建一个BP网络。函数形式：net=newff（P，T，S，TF，BTF，BLF，PF，IPF，OPF，DDF）2. train：BP神经网络训练函数函数功能：用训练数据训练BP神经网络。函数形式：net,tr=train（NET,X,T,Pi,Ai）2.2.3 BP神经网络预测用训练好的BP神经网络预测非线性函数输出，并通过BP神经网络预测输出和期望输出分析BP网络的分析能力。MATLAB神经网络工具箱提供的BP神经网络预测函数是sim。1. sim：BP神经网络预测函数函数功能：用训练好的BP神经
7、网络预测函数输出函数形式：y=sim(net,y)以上三个函数的具体用法可以参考其自带的帮助，本文不作详述。根据需要拟合的函数有1个输入参数、1个输出参数，确定BP神经网络为1-5-1。取函数的4000组输入输出数据，从中随机选取3900组训练网络，100组数据测试网络性能，网络训练好后用于非线性函数输出。2.3 遗传算法实现2.3.1 种群初始化个体编码方法为实数编码，每个个体均为一个实数串，由输入层与隐含层连接权值、隐含层阈值、隐含层与输出层连接权值以及输出层阈值4部分组成。个体包含了神经网络全部权值和阈值，在网络结构已知的情况下，就可以构成一个结构、权值、阈值确定的神经网络。2.3.2
8、适应度函数根据个体得到的BP神经网络的初始权值和阈值，用训练数据训练BP神经网络后预测系统输出，把训练好的BP神经网络预测输出作为个体适应度的值。2.3.3 选择操作遗传算法选择操作有轮盘赌法、锦标赛法等多种方法，本文采用采用轮盘赌法，即基于适应度比例的选择策略，每个个体i的选择pi为：pi=fij=0nfi其中，fi为个体i的适应度值，N为种群的个体数目。2.3.4 交叉操作由于个体采用实数编码，所以交叉操作方法采用实数交叉法，d第k个染色体ak和第l个染色体al在j位的交叉操作方法如下：akj=akj1-b+aijbaij=aij1-b+akjb其中，b是0,1间的随机数。2.3.5 变异
9、操作选取第i个个体的第j个基因aij进行变异，变异操作方法如下：aij=aij+（aij-amax）*f(g) r0.5aij+（amin-aij）*f(g) r0.5式中，amax为基因aij的上界；amin为基因aij的下界；fg=r2(1-g/Gmax)；r2为一个随机数；g为当前迭代次数；amax是最大进化次数；r为0,1之间的随机数三、 编程实现3.1 数据准备根据拟合函数得到4000组输入input和输出数据output，存入data中。for i=1:4000 input(i,:)=3*rand; output(i)=-input(i)*(input(i)2-3.2*input(
10、i)+2.89)*(input(i)-3)/2;endoutput=output;save data input output3.2 BP神经网络主函数对于4000组数据，采用其中3900组用来训练神经网络，最后100组用来测试网络拟合性能。%清空环境变量clccleardata;tic% 训练数据预测数据提取及归一化%下载输入输出数据load data output input %从1到4000间随机排序k=rand(1,4000);m,n=sort(k); %找出训练数据和预测数据input_train=input(n(1:3900),:);output_train=output(n(1:
11、3900),:);input_test=input(n(3901:4000),:);output_test=output(n(3901:4000),:); %选连样本输入输出数据归一化inputn,inputps=mapminmax(input_train);outputn,outputps=mapminmax(output_train); %BP网络训练%初始化网络结构net=newff(inputn,outputn,5); net.trainParam.epochs=100;net.trainParam.lr=0.1;net.trainParam.goal=0.; %网络训练net=tra
12、in(net,inputn,outputn); %BP网络预测%预测数据归一化inputn_test=mapminmax(apply,input_test,inputps); %网络预测输出an=sim(net,inputn_test); %网络输出反归一化BPoutput=mapminmax(reverse,an,outputps); %结果分析 figure(1)plot(BPoutput,:og)hold onplot(output_test,-*);legend(预测输出,期望输出,fontsize,12)title(BP网络预测输出,fontsize,12)xlabel(样本,fon
13、tsize,12)ylabel(输出,fontsize,12)print -dtiff -r600 4-3%预测误差error=BPoutput-output_test; figure(2)plot(error,-*)title(神经网络预测误差) figure(3)plot(output_test-BPoutput)./BPoutput,-*);title(神经网络预测误差百分比) errorsum=sum(abs(error) toc save data net inputps outputps3.3 编码函数function ret=Code(lenchrom,bound)% lench
14、rom input : 染色体长度% bound input : 变量的取值范围% ret output: 染色体的编码值flag=0;while flag=0pick=rand(1,length(lenchrom); %线性插值，编码结果以实数向量存入ret中ret=bound(:,1)+(bound(:,2)-bound(:,1).*pick; flag=test(lenchrom,bound,ret); %检验染色体的可行性end3.4 适应度函数function fitness = fun(x)% x input 个体% fitness output 个体适应度值load data n
15、et inputps outputps %数据归一化x=x;inputn_test=mapminmax(apply,x,inputps); %网络预测输出an=sim(net,inputn_test); %网络输出反归一化fitness=mapminmax(reverse,an,outputps);3.5 选择操作function ret=select(individuals,sizepop)% individuals input : 种群信息% sizepop input : 种群规模% ret output : 经过选择后的种群 fitness1=individuals.fitness;s
16、umfitness=sum(fitness1);sumf=fitness1./sumfitness;index=; for i=1:sizepop %转sizepop次轮盘 pick=rand; while pick=0 pick=rand; end for i=1:sizepop pick=pick-sumf(i); if pickpcross continue; end flag=0; while flag=0 %随机选择交叉位 pick=rand; while pick=0 pick=rand; end pos=ceil(pick.*sum(lenchrom); pick=rand; %
17、交叉开始 v1=chrom(index(1),pos); v2=chrom(index(2),pos); chrom(index(1),pos)=pick*v2+(1-pick)*v1; chrom(index(2),pos)=pick*v1+(1-pick)*v2; %交叉结束 flag1=test(lenchrom,bound,chrom(index(1),:);%检验染色体1可行性 flag2=test(lenchrom,bound,chrom(index(2),:);%检验染色体2可行性 if flag1*flag2=0 flag=0; else flag=1; end %如果两个染色
18、体不是都可行，则重新交叉 end endret=chrom;3.7 变异操作function ret=Mutation(pmutation,lenchrom,chrom,sizepop,pop,bound)% pcorss input : 变异概率% lenchrom input : 染色体长度% chrom input : 染色体群% sizepop input : 种群规模% opts input : 变异方法的选择% pop input : 当前种群的进化代数和最大的进化代数信息% ret output : 变异后的染色体for i=1:sizepop % 随机选择一个染色体进行变异 p
19、ick=rand; while pick=0 pick=rand; end index=ceil(pick*sizepop); % 变异概率决定该轮循环是否进行变异 pick=rand; if pickpmutation continue; end flag=0; while flag=0 % 变异位置 pick=rand; while pick=0 pick=rand; end pos=ceil(pick*sum(lenchrom); v=chrom(i,pos); v1=v-bound(pos,1); v2=bound(pos,2)-v; pick=rand; %变异开始 if pick0
20、.5 delta=v2*(1-pick(1-pop(1)/pop(2)2); chrom(i,pos)=v+delta; else delta=v1*(1-pick(1-pop(1)/pop(2)2); chrom(i,pos)=v-delta; end %变异结束 flag=test(lenchrom,bound,chrom(i,:); %检验染色体的可行性 endendret=chrom;3.8 遗传算法主函数%清空环境变量clcclear %初始化遗传算法参数%初始化参数maxgen=50; %进化代数，即迭代次数sizepop=30; %种群规模pcross=0.4; %交叉概率选择，
21、0和1之间pmutation=0.2; %变异概率选择，0和1之间 lenchrom=1; %每个变量的字串长度，如果是浮点变量，则长度都为1bound=0 3; %数据范围 individuals=struct(fitness,zeros(1,sizepop), chrom,);%将种群信息定义为一个结构体avgfitness=; %每一代种群的平均适应度bestfitness=; %每一代种群的最佳适应度bestchrom=; %适应度最好的染色体 %初始化种群计算适应度值%初始化种群for i=1:sizepop %随机产生一个种群 individuals.chrom(i,:)=Code
22、(lenchrom,bound); x=individuals.chrom(i,:); %计算适应度 individuals.fitness(i)=fun(x); %染色体的适应度end%找最好的染色体bestfitness bestindex=max(individuals.fitness);bestchrom=individuals.chrom(bestindex,:); %最好的染色体avgfitness=sum(individuals.fitness)/sizepop; %染色体的平均适应度%记录每一代进化中最好的适应度和平均适应度trace=avgfitness bestfitnes
23、s; %迭代寻优%进化开始for i=1:maxgen i %选择 individuals=Select(individuals,sizepop); avgfitness=sum(individuals.fitness)/sizepop; %交叉 individuals.chrom=Cross(pcross,lenchrom,individuals.chrom,sizepop,bound); %变异 individuals.chrom=Mutation(pmutation,lenchrom,individuals.chrom,sizepop,i maxgen,bound); %计算适应度 fo
24、r j=1:sizepop x=individuals.chrom(j,:); %解码 individuals.fitness(j)=fun(x); end %找到最小和最大适应度的染色体及它们在种群中的位置 newbestfitness,newbestindex=max(individuals.fitness); worestfitness,worestindex=min(individuals.fitness); %代替上一次进化中最好的染色体 if bestfitnessnewbestfitness bestfitness=newbestfitness; bestchrom=indivi
25、duals.chrom(newbestindex,:); end individuals.chrom(worestindex,:)=bestchrom; individuals.fitness(worestindex)=bestfitness; avgfitness=sum(individuals.fitness)/sizepop; trace=trace;avgfitness bestfitness;%记录每一代进化中最好的适应度和平均适应度end%进化结束 %结果分析r c=size(trace);plot(1:r,trace(:,2),r-);title(适应度曲线,fontsize,1
26、2);xlabel(进化代数,fontsize,12);ylabel(适应度,fontsize,12);axis(0,100,0,1)disp(Xmax Fmax);x=bestchrom;%窗口显示disp(x bestfitness);四、 结果分析4.1 BP神经网络拟合结果分析因为个体的适应度值为神经网络的预测值，因此BP神经网络预测精度对最优位置的寻找具有非常重要的意义。由于寻优非线性函数有1个输入参数和1个输出参数，所以构成BP神经网络的结构为1-5-1.共取非线性函数4000组数据，从中选择3900组数据训练BP神经网络，100组数据作为测试数据BP神经网络拟合性能，BP神经网络
27、预测输出和期望输出对比如图所示：图4-1BP网络预测输出图4-2BP网络预测误差图4-3BP网络预测误差百分比从BP神经网络预测结果可以看出，BP神经网络可以准确预测非线性函数输出，可以把网络预测输出近似看成函数实际输出。4.2遗传算法寻优结果分析BP神经网络训练结束后，可以用遗传算法寻找该非线性函数的最小值。遗传算法的迭代次数是50次，种群规模是30，交叉概率为0.2，采用浮点数编码，个体长度为2，优化过程中最优化个体适应度值变化曲线如图所示：图4-4遗传算法适应度曲线遗传算法得到的最优化个体适应度为0.5373，最优个体为0.9652，可以发现该结果与精确值（0.537,0.9655）坐标非常接近，说明神经网络遗传算法函数极值寻优这种方法非常有效。专心-专注-专业
