《GRNN神经网络设计课件.pptx》由会员分享，可在线阅读，更多相关《GRNN神经网络设计课件.pptx（20页珍藏版）》请在三一办公上搜索。
1、主 讲：周润景 教授单 位：电子信息工程学院,基于GRNN网络数据分类设计,目 录,广义神经网络简介GRNN网络结构 GRNN网络理论GRNN网络应用于模式分类总结,一. 广义神经网络简介,广义回归神经网络（GRNN，Generalized Regression Neural Network）是径向基神经网络的一种。GRNN具有很强的非线性影射能力和柔性网络结构以及高度的容错性和鲁棒性，适用于解决非线性问题。 GRNN在逼近能力和学习速度上较RBF网络有更强的优势，网络最后收敛于样本量积聚较多的优化回归面，并且在样本数据较少时，预测效果也较好。此外，网络还可以处理不稳定的数据。因此，GRNN在
2、信号过程、结构分析、教育产业、能源、食品科学、控制决策系统、药物设计、金融领域、生物工程等各个领域得到了广泛的应用。,二. GRNN的网络结构,GRNN的网络结构,（1）输入层输入层神经元的数目等于学习样本中输入向量的维数，各神经元是简单的分布单元，直接将输入变量传递给模式层。（2）模式层模式层神经元数目等于学习样本的数目n，各神经元对应不同的样本，模式层神经元传递函数为,神经元i的输出为输入变量与其对应的样本X之间Euclid距离平方的指数平方 的指数形式。 = (X ) (X- )式中，X为网络输入变量; 为第 i个神经元对应的学习样本。,二. GRNN的网络结构,（3）求和层求和层中使用
3、两种类型神经元进行求和。一类的计算公式为: ,它对所有模式层神经元的输出进行算数求和，其模式层与各神经元的连接权值为1，传递函数为:另一类计算公式为: ,它对所有模式出的神经元进行加权求和，模式层中第 i个神经元与求和层第j个分子求和神经元之间的连接权值为第个输出样本 中的第j个元素，,二. GRNN的网络结构,传递函数为：（4）输出层输出层中的神经元数目等于学习样本中输出向量的维数k，各神经元将求和层的输出相除，神经元j的输出对应估计结果 的第j个元素，即,二. GRNN的网络结构,三. GRNN网络理论,广义回归神经网络的理论基础是非线性回归分析，非独立变量Y相对于独立变量x的回归分析实际
4、上是计算具有最大概率值的y。设随机变量x和随机变量y的联合概率密度函数为 (,)，已知x的观测值为X，则y相对与X的回归，也即条件均值为 即为在输入为X的条件下，Y的预测输出。,三. GRNN网络理论,应用Parzen非参数估计，可由样本数据集估算密度函数 。式中 ， 为随机变量x和y的样本观测值；n为样本容量；p为随机变量x的维数;为高斯函数的宽度系数，在此称为光滑因子。网络的输出 为,三. GRNN网络理论,估计值 为所有样本观测值 的加权平均，每个观测值 的权重因子为相应的样本 与 X之间Euclid距离平方的指数。当光滑因子非常大的时候， 近似于所有样本因变量的均值。相反，当光滑因子趋
5、于0的时候， 和训练样本非常接近，当需要预测的点被包含在训练样本集中时，公式求出的因变量的预测值会和样本中对应的因变量非常接近，而一旦碰到样本中未能包含进去的点，有可能预测效果会非常差，这种现象说明网络的泛化能力差。当取值适中，求解预测值 时，所有训练样本的因变量都被考虑了进去，与预测点距离近的样本点对应的因变量被加了更大的权。,四、GRNN网络应用于模式分类,以酒瓶分类三元色数据为例，希望将数据按照颜色数据所表征的特点，将数据按各自所属的类别归类。其中，前29组数据已确定类别，后30组数据待确定类别。（1）从样本数据库中获取训练数据 取前29组数据作为训练样本。并将样本数据及分类结果分别存放
6、到“.dat”文件中。（2）设置径向基函数的分布密度 Spread为径向基层的分布密度，又称散布常数，默认值为1。散布常数是GRNN网络设计过程中一个非常重要的参数。一般情况下，散布常数应该足够大，使得神经元响应区域覆盖所有输入区间。（3）调用newgrnn构建并训练广义神经网络； 在MATLAB中，应用newgrnn()函数可以快速设计一个广义神经网络，并且使得设计误差为0，调用方式如下：net=newgrnn(p,t,spread);其中，p为输入向量；t为期望输出向量（目标值），spread为广义神经网络的散布常数，默认值为1。输出为一个广义神经网络，其权值和阈值完全满足输入和期望值关系
7、要求。（4）调用sim，测试GRNN网络的训练效果（5）再次调用sim识别样本所属类别,GRNN网络MATLAB程序,基于MATLAB的GRNN模式分类程序如下：clear;clc;%网络训练样本pConvert=importdata(C:UsersAdministratorDesktoplnSelfOrganizationtrain.dat);p=pConvert;%训练样本的目标矩阵t=importdata(C:UsersAdministratorDesktoplnSelfOrganizationtarget.dat);plot3(p(1,:),p(2,:),p(3,:),o);grid;
8、box;for i=1:29,text(p(1,i),p(2,i),p(3,i),sprintf( %g,t(i),endhold offf=t;index1=find(f=1);index2=find(f=2);,GRNN网络MATLAB程序,index3=find(f=3);index4=find(f=4);line(p(1,index1),p(2,index1),p(3,index1),linestyle,none,marker,*,color,g);line(p(1,index2),p(2,index2),p(3,index2),linestyle,none,marker,*,colo
9、r,r);line(p(1,index3),p(2,index3),p(3,index3),linestyle,none,marker,+,color,b);line(p(1,index4),p(2,index4),p(3,index4),linestyle,none,marker,+,color,y);box;grid on;hold on;axis(0 3500 0 3500 0 3500);title(训练用样本及其类别);xlabel(A);ylabel(B);zlabel(C);t=t;t=ind2vec(t);,GRNN网络MATLAB程序,spread=30;% GRNN网络的创
10、建和训练过程net=newgrnn(p,t,spread);A=sim(net,p);Ac=vec2ind(A)plot3(p(1,:),p(2,:),p(3,:),.),grid;box;axis(0 3500 0 3500 0 3500)for i=1:29,text(p(1,i),p(2,i),p(3,i),sprintf( %g,Ac(i),end%以图形方式输出训练结果hold offf=Ac;index1=find(f=1);index2=find(f=2);index3=find(f=3);index4=find(f=4);line(p(1,index1),p(2,index1)
11、,p(3,index1),linestyle,none,marker,*,color,g);,RBF网络MATLAB程序,line(p(1,index2),p(2,index2),p(3,index2),linestyle,none,marker,*,color,r);line(p(1,index3),p(2,index3),p(3,index3),linestyle,none,marker,+,color,b);line(p(1,index4),p(2,index4),p(3,index4),linestyle,none,marker,+,color,y);box;grid on;hold
12、on;title(网络训练结果);xlabel(A);ylabel(B);zlabel(C);%对待分类样本进行分类pConvert=importdata(C:UsersAdministratorDesktoplnSelfOrganizationSimulation.dat);p=pConvert;a=sim(net,p);ac=vec2ind(a),y = 1 至 18 列0.0144 0.0144 0.4828 0.0144 0.9788 0.0353 0.0353 0.0144 0.9788 0.0877 0.0144 0.0239 0.0525 0.0353 0.9788 0.0353
13、 0.9788 0.0144 0.9857 0.9857 0.3637 0.9857 0.0187 0.0300 0.0300 0.9857 0.0187 0.9528 0.9857 0.8961 0.1056 0.0300 0.0187 0.0300 0.0187 0.9857 0.0057 0.0057 0.0020 0.0057 0.0221 0.9693 0.9693 0.0057 0.0221 0.0006 0.0057 0.0822 0.0001 0.9693 0.0221 0.9693 0.0221 0.0057 0.0264 0.0264 0.0233 0.0264 0.056
14、5 0.0050 0.0050 0.0264 0.0565 0.0453 0.0264 0.0099 0.8830 0.0050 0 .0565 0.0050 0.0565 0.0264 19 至 30 列0.9787 0.0353 0.0353 0.0144 0.0144 0.0525 0.0525 0.9788 0.0568 0.0144 0.0144 0.0144 0.0187 0.0300 0.0300 0.9857 0.9857 0.1056 0.1056 0.0187 0.1208 0.9857 0.9857 0.9857 0.0221 0.9693 0.9693 0.0057 0
15、.0057 0.0001 0.0001 0.0221 0.0001 0.0057 0.0057 0.0057 0.0565 0.0050 0.0050 0.0264 0.0264 0.8830 0.8830 0.0565 0.8643 0.0264 0.0264 0.0264,RBF网络MATLAB程序,GRNN网络分类结果,运行程序后，系统首先输出训练用样本及其类别分类图，如图a所示。接着输出GRNN网络的训练结果图，如图b所示。,图a 训练用样本及其类别分类图,图b 训练结果类别分类图,训练后的GRNN网络对训练数据进行分类后的结果与目标结果对比，如表a所示。表a训练后的GRNN网络对训练数据进行分类后的结果与目标结果对比表,GRNN网络分类结果,GRNN网络分类结果,五、总结,训练后的GRNN网络对训练数据进行分类后的结果与目标结果完全吻合，可见GRNN网络训练效果良好。 继续执行程序，可得到待分类样本的分类结果：ac =1 至 15 列3 3 1 3 4 2 2 3 4 1 3 3 1 2416 至 30 列2 4 3 4 2 2 3 3 1 1 4 1 3 33,
