《654523897毕业设计(论文)基于BP神经网络的脉冲噪声图像恢复方法.doc》由会员分享,可在线阅读,更多相关《654523897毕业设计(论文)基于BP神经网络的脉冲噪声图像恢复方法.doc(42页珍藏版)》请在三一办公上搜索。
1、摘 要在信息化的社会里,图像在信息传播中所起的作用越来越大,而数字图像在获取与传播中,可能会受到脉冲噪声的污染。所以,消除产生的噪声,保证图像受污染度最小,成了数字图像处理领域里的重要部分。本文主要针对数字图像的脉冲噪声污染问题,采用一种窗口自适应开关中值滤波方法消除噪声。利用BP神经网络将图像中的每个像素点分类为信号点或噪声点,再采用改进的中值滤波器对检测后的图像进行滤波处理,根据噪声检测结果,滤波器自适应调整窗口大小并选择性取样,逐点滤波消除图像中的噪声。该方法在抑制脉冲噪声、保护图像细节方面均优于以往基于中值滤波的方法,即使在图像遭受噪声密度70%噪声污染的极端情况下,仍能得到很好恢复。
2、关键词:图像去噪;脉冲噪声检测;自适应开关中值滤波AbstractIn the information society, the image in the information transmission is used more and more widely. During the digital images transmission, they could be affected by the impulsive noise pollution. Therefore, ensuring the minimum of the noise and pollution in the proc
3、ess of image collection and transmission became an important part of the field.In order to denoise impulse noises in images, an adaptive window switching median filtering method is adopted in this paper. First, each pixel is classified as signal or noisy point by the BP-net. Next, the image is filte
4、red by an improved median filter. According to the result of noise detection, the filter can adjust adaptively w indows width and sample choicely, each noisy point in image is denoised by filtering In terms of suppressing impulse noise and preserving image details, the adopted method is better than
5、that based on median filter even in the extreme case of 70% noise corruption, noisy images can be effectively recovered.Key words: image denoising; impulse noise detection; adaptive switching median filters目 录第1章 概述11.1 图像去噪技术研究的意义11.2 噪声检测的方法21.3 滤波的方法21.4 噪声种类与图像质量评价标准21.5本文的主要工作4第2章 BP神经网络简介52.1
6、人工神经网络简介52.2 BP神经网络92.3 多层前馈网络的主要能力112.4 BP学习算法112.5 本章小结17第3章 基于BP神经网络的脉冲噪声检测183.1 脉冲噪声图像的数学模型183.2 噪声检测弱分类器的设计193.3 噪声检测强分类器的设计203.4 本章小结25第4章 窗口自适应开关中值滤波264.1 中值滤波的基本理论264.2 开关中值滤波器284.3 窗口自适应开关中值滤波294.4 本章小结31第5章 实验结果与讨论325.1 性能评价指标定义325.2 视觉效果对比325.3 噪声检测性能对比325.4 去噪性能对比345.5 实验结果讨论35结论36参考文献37
7、致 谢38第1章 概述1.1 图像去噪技术研究的意义 图像作为人们感知世界的视觉基础,是人类获取信息、表达信息和传递信息的重要手段。研究表明,人类获取的视觉图像信息在人类接受的信息中的比重达到四分之三。在各类图像系统中,由于图像的传送和转换,如成像、复制、扫描、传输、显示等,总要造成图像的降质,典型的表现为图像模糊、失真、有噪声等。而在众多的应用领域中,又需要清晰的、高质量的图像,因此,为了抑制噪声,改善图像质量,复原图像具有非常重要的意义。在数字图像处理领域图像噪声的滤除一直是最重要、最基本的研究课题之一。得益于应用数学理论的发展和计算机技术的进步,现代图像去噪滤波技术己取得丰富成果。 图像
8、主要是反映客观事物或某些过程与空间、时间有相互关联的特征量的信息列阵。它具有两个基本要素:像素值层次分辨和图像空间分辨。像素值可反映图像的层次细节,是构成图像必不可少的基本要素之一。另一个基本要素是图像空间分辨率,可由像素值在可分辨条件下的像元总数来表示。可分辨的像元总数越多,则反映自然界中客观事物的细节就越清楚。一般地,图像在空间和亮度上都是连续取值的,称为连续图像或模拟图像如果连续图像在空间和亮度上进行离散化,就成为数字图像,这是唯一能够用计算机进行处理的图像形式。数字图像可表示为如公式1-1的一个矩阵: (1-1)其中,。数字图像处理,就是把数字图像经过一些特定数理模式的加工处理,以达到
9、有利于人眼视觉或某种接收系统所需要的图像的过程。如对被噪声污染的图像除去噪声,对信息微弱的图像进行增强处理,对失真的图像进行几何校正等。随着计算机软硬件技术的突飞猛进,以及数字处理技术的不断发展,数字图像处理在科学研究、工业生产、国防以及现代管理决策等各行各业都得到越来越多的应用。在数字图像处理领域,有很多传统的图像去噪方法它们可能已经被提出以至被应用很久了。在这样的学术背景下依然研究图像去噪的意义在于:(1)在图像去噪领域,传统方法呈百花齐放之态,但是这些方法并非十全十美,主要表现在去噪的同时对图像细节的丢失。因此进一步研究新的去噪方法或者完善己有的算法意义依然重大。(2)不同算法都有着不同
10、的数学理论基础,对图像去噪的效果也表现不同。探求它们的内部机理,寻求相应的关系,研究不同算法之间如何取长补短,以达到更好的去噪效果,也是很有意义的。(3)研究图像去噪对数字图像其他处理环节性能的提升也有着促进意义。1.2 噪声检测的方法传统的噪声检测方法有多种,如将窗口中所有像素点灰度值的中值与中心点灰度值的差值大于阈值的视为噪声点1,该方法在图像受噪声污染较大时无法把某些真正的噪声点检测出来;另一种检测方法是根据图像中的某点灰度值与其邻域内像素点灰度值及极小值的关系进行检测2;还有些方法是根据图像中某点灰度值与其邻域内像素点灰度值的均值的关系进行噪声检测3。这些方法的弊端在于会将非噪声点误判
11、为噪声点,这种矛盾在图像中噪声干扰较大时表现的尤为明显4。1.3 滤波的方法为消除脉冲噪声,人们提出了各种滤波方法。由于线性滤波器会引起图像的严重模糊,而非线性滤波器更有利于保护图像细节,因此,非线性滤波方法被广泛采用5。其中,标准中值滤波器SM已成为最通用的非线性滤波器之一,它对滤波窗口内的像素进行排序,再用中间值替代窗口中心像素值,具有算法实现简单运行效率高等优点。之后,人们在标准中值滤波器的基础上,又提出了各种改进方法,如加权中值滤波器WM、中心加权滤波器CWM等。这些传统的中值滤波方法无条件地对每个像素点进行中值滤波处理、而对应完整保留的信号点滤波,必然会造成回复后图像质量严重退,为了
12、避免对信号点进行滤波,滤波前的噪声监测机制必不可少,因此,一些开关中值滤波方法被广泛采用,这些方法在特定条件下,都有各自的优势,当图像噪声密度低于50%时都能表现出较好的去噪性能,而对于噪声密度高于50%的高密度噪声图像,往往由于其噪声检测精度的下降,而严重影响去噪性能。1.4 噪声种类与图像质量评价标准在不同应用中,存在着不同类型的噪声影响,如:各种白噪声、白高斯噪声、正向脉冲和负向脉冲噪声、椒盐噪声、乘性噪声、与信号有关的噪声及它们的混合噪声等。任何滤波器都有一定的优点和缺点,因此对于特定应用场合很难说出哪种滤波器最合适。滤波器设计就是考虑如何滤除某种类型噪声。实际上,滤波器性能完全取决于
13、应用场合。常用的一些滤波器性能测量项目有:对不同类型噪声的滤波特性;边缘保护;细节信息保护;无偏性;计算复杂度。滤波器的计算复杂性包括输出所需的代数运算次数如乘法、比较以及加法等。在并行运算情况下,用所需硬件和时延来测量。在串行运算情况下,利用运算速度测量,还与算法程序以及计算机性能有关。可见滤波器计算复杂度由许多因素决定。噪声滤波特性通常通过输出方差或连续滤除脉冲噪声的比率来测得。另外一些性能测量如归一化均方误差和灰度峰值信噪比等。这些测量的主要缺点是它们与人主观判定准则相对来说差得较远。主要原因是人的视觉相对复杂得多,它的特性无法用一个性能表达函数来描述。边缘保护是滤波器一个重要性质,其量
14、度是保护边缘的能力。细节信息保护的特性主要是保护图像上各类线段、尖角和其他图像细节的能力。滤波器通常只能增强某一方向的图像或者增强某种照度特征的图像区域。所有性能测量都是定性测量,他们不能用某种严格的定量标准描述,因此,上述测量都带有相对主观性。在对几种滤波器进行性能比较时,通常都针对某一给定噪声图像进行滤波,然后用某种测量结果进行比较。本文主要考虑脉冲噪声的滤波处理。之所以考察这种噪声是因为它的存在范围较广,具有典型的代表性。对滤波效果从主观视觉评价和客观参数标准(PSNR峰值信噪比)两个角度进行度量。在具体衡量过程中,图像的主观评价即目测法是评价去噪效果好坏的最直接方法。要想让一种去噪模型
15、得到肯定,首先应该通过眼睛这一关的许可。通过人的眼睛来观察图像,对图像的优劣做出主观评定。这时评价出的图像质量与观察者的特性及观察条件等因素有关,测试条件应尽可能与使用条件相匹配。但是一些研究场合,由于试验条件的限制,希望对图像质量有一个定量的客观描述。图像质量客观评价由于着眼点不同而有多种想法,常采用峰值信噪比(PSNR)、噪声点被检测为信号点的像素数量(MD)以及信号点被检测为噪声点的像素数量(FA),其计算公式为: PSNR, (1-2) MSE. (1-3)其中,和分别表示图像行数与列数,和分别表示原始图像和滤波图像的像素值。在具体的仿真实验中常常要人为的加入某种特定的人工噪声,以测试
16、去噪方法对特定噪声模型的去噪效果。在具体评价去噪模型时,我们需要考虑的几个因素总结如下:去噪后图像应尽量的平滑,不存在或有较少的噪声痕迹;去噪结果不能使图像过渡的失去结构细节变得模糊;没有由于具体去噪方法产生的人工噪声;方法噪声尽量地接近自然随机噪声;峰值信噪比(PSNR)尽可能大,归一化均方差(NMSE)尽可能小。常用的去噪模型评价方法是在一幅清晰的图像上加入某种噪声,然后在加噪的图像上用特定的方法进行去噪实验。1.5 本文的主要工作本文首先在噪声检测阶段,采用一种基于BP神经网络的脉冲噪声图像恢复方法,也就是说先将BDND噪声检测方法改进后,作为弱分类器对像素点进行初步分类,再利用BP神经
17、网络对初分类结果进行加工处理,并做出最终判决,得到噪声的二值分布。在滤波阶段,结合本文噪声检测方法的特点,采用一种新的窗口自适应开关中值滤波方法,并根据噪声检测结果做出噪声密度估计,依噪声密度的不同而自适应地调整滤波窗口的大小并选择性取样滤波,这样就完成了整个滤波过程。最后利用MATLAB仿真实现本文所述方法,并选取不同滤波器对同一幅含噪图像进行滤波的实验与对比,从多个角度说明本文方法对于传统滤波方法的优势,同时在总结的时候也指出本文方法的不足。第2章 BP神经网络简介2.1 人工神经网络简介自从模拟人类实际神经网络的数学方法问世以来,人们已慢慢习惯了把这种人工神经网络(Artificial
18、Neural Network,ANN)直接称为神经网络6。神经网络是一种运算模型,由大量的节点(或称神经元,或单元)和之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重(weight),这相当于人工神经网络的记忆。网络的输出则按网络的连接方式,权重值和激励函数的不同而不通。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。神经网络的基础在于神经元。神经元是以生物神经系统的神经细胞为基础的生物模型。在人们对生物神经系统进行研究,以探讨人工智能的机
19、制时,把神经元数学化,从而产生了神经元数学模型。大量的形式相同的神经元连结在一起就组成了神经网络7。神经网络是一个高度非线性动力学系统,用神经网络可以表达实际物理世界的各种现象。神经元是神经网络基本元素。在人体内,神经元的结构形式并非是完全相同的;但是,无论结构形式如何,神经元都是由一些基本的成份组成的。神经元的生物学解释可以用图2-1所示的结构表示。从图中可以看出:神经元是由细胞体、树突和轴突三部分组成。图2-1 神经元结构图细胞体是由很多分子形成的综合体,内部含有一个细胞核、核糖体、原生质网状结构等,它是神经元活动的能量供应地,在这里进行新陈代谢等各种生化过程。神经元也即是整个细胞,整个细
20、胞的最外层称为细胞膜。细胞体的伸延部分产生的分枝称为树突,树突是接受从其它神经元传人的信息的入口。细胞体突起的最长的外伸管状纤维称为轴突。轴突最长可达1米以上。轴突是把神经元兴奋的信息传出到其它神经元的出口。从神经元的特性和功能可以知道,神经元是一个多输入单输出的信息处理单元,而且,它对信息的处理是非线性的。根据神经元的特性和功能,可以把神经元抽象为一个简单的数学模型。工程上用的人工神经元模型如图2-2所示。Y f 图2-2 神经元的数学模型在上图中,X,X,,X是神经元的输入,即来自前级n个神经元的轴突的信息;是i神经元的阈值;W,W, , W分别是i神经元对X,X,,X的权系数,也即突触的
21、传递效率;Y是i神经元的输出f提激发函数,它决定i神经元受到输人X,X,,X的共同刺激达到阈值时以何种方式输出。神经网络在目前已有几十种不同的模型。人们按不同的角度对神经网络进行分类,通常可按5个原则进行神经网络的归类。按照网络的结构区分,则有前向网络和反馈网络。按照学习方式区分,则有教师学习和无教师学习网络。按照网络性能区分,则有连续型和离散型网络,随机型和确定型网络。按照突触性质区分,则有一阶线性关联网络和高阶非线性关联网络8。按对生物神经系统的层次模拟区分,则有神经元层次模型,组合式模型,网络层次模型,神经系统层次模型和智能型模型。在人们提出的几十种神经网络模型中,人们较多用的是Hopf
22、ield网络、BP网络、Kohonen网络和ART(自适应共振理论)网络9。Hopfield网络是最典型的反馈网络模型,它是目前人们研究得最多的模型之一。这个网络习以完成制约优化和联想记忆等功能。BP网络是反向传播(Back Propagation)网络10。它是一种多层前向网络,采用最小均方差学习方式。这是一种最广泛应用的网络。它可用于语言综合,识别和自适应控制等用途。BP网络需有教师训练。Kohonen网络是典型的自组织神经网络,这种网络也称为自组织特征映射网络SOM。它的输入层是单层单维神经元,而输出层是二维的神经元,神经元之间存在以“墨西哥帽”形式进行侧向交互的作用。因而,在输出层中,
23、神经元之间有近扬远抑的反馈特性,从而使Kohonen网络可以作为模式特征的检测器。ART网络也是一种自组织网络模型。这是一种无教师学习网络。它能够较好地协调适应性,稳定性和复杂性的要求。在ART网络中,通常需要两个功能互补的子系统相互作用,这两个子系统为注意子系统和取向子系统。ART网络主要用于模式识别,它不足之处是在于对转换、失真和规模变化较敏感。总之,人工神经网络是由大量简单的处理单元组成的非线性、自适应、自组织系统,是在现代神经科学研究成果的基础上,试图通过模拟人类神经系统对信息进行加工、记忆和处理的方式,设计出的一种具有人脑风格的信息处理系统。它提供了一种普遍而实用的方法从样本中学习值
24、为实数、离散值或向量的函数。ANN学习对于训练数据中的错误健壮性很好,且已被成功应用到很多领域中,例如文本识别、语音识别、图像复原、图像分割、目标跟踪等。一般而言,ANN与经典计算方法相比并非优越,只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性11。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面,ANN对处理大量原始数据而不能用规则或公式描述的问题,表现出极大的灵活性和自适应性。2.1.1 神经网络的学习方法(1)学习方式通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点。在一般情况下,性能的改
25、善是按照某种预定的度量通过调节自身参数逐步达到的。学习方式一般有如下几种:监督学习监督学习需要外界存在一个“教师”,它可以对给定一组输入提供应有的输出结果,这组己知的输入输出数据称为训练样本集,学习系统可根据己知输出与实际输出之间的差值来调节系统参数。非监督学习 非监督学习时不存在外部教师,学习系统完全按照环境提供数据的某些统计规律来调节自身参数或结构,以表示外部输入的某种固有特性。再励学习再励学习介于上面两种情况之间,外部环境对系统输出结果只给出评价信息(奖励或者惩罚)而不是给出正确答案。学习系统通过强化那些受奖励的动作来改善自身性能。(2)学习算法误差纠正学习误差纠正学习的目的是使某一基于
26、误差信号的目标函数达到最小,以使网络中每一个输出单元的实际输出在某种统计意义上逼近应有输出。一旦选定了目标函数形式,误差纠正学习就变成一个典型的最优化问题,最常用的目标函数是均方误差判据,定义为误差平方和的均值。在自适应滤波器理论中,对这种学习的收敛性及其统计特性有较深入的分析。 Hebb学习 由Hebb提出的,可以归纳为当某一突触(连接)两端的神经元同步激活(同激活或抑制)时,该连接的强度应增强,反之应减弱。 竞争学习竞争学习中,网络各输出单元互相竞争,最后达到只有一个最强者激活,最常见的一种情况是输出神经元之间有侧向抑制性连接,这样原来输出单元中如有某一单元较强,则它将获胜并抑制其他单元,
27、最后只有此强单元处于激活状态。 (3)学习与自适应当学习系统所处环境平稳时,从理论上讲通过监督学习可以学到环境的统计特性,这些统计特性可被学习系统作为经验记住。如果环境是非平稳的,通常的监督学习没有能力跟踪这种变化,为解决此问题,需要网络有一定的自适应能力,此时对每一不同输入都作为一个新的例子来对待。2.2 BP神经网络BP (Back Propagation)神经网络是一种神经网络学习算法,全称是基于误差反向传播算法的人工神经网络12。BP神经网络的学习过程,分为由信息的正向传播和误差的反向传播两个过程。输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层
28、,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层结构或者多隐层结构,最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程将一直循环进行,直到网络输出的误差减少到可以接受的程度,或者预先设定好的学习次数为止。BP神经网络相对比其他的神经网络,具有运算速度快,叠加性好等特点。 BP算法的基本思
29、想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传入,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望的输出(教师信号)不符,则转入误差的反向传播阶段。图2-3 多层前馈网络模型误差反传是将输出层误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程,是周而复始地进行的。权值不断调整的过程,也就是网络的学习训练过程。此过程一直进行到网络输出的误差减少到可接受的程度,或进行到预先设定的学习次数为止。多层前馈网络模型采用B
30、P算法的多层前馈网络是至今为止应用最为广泛的神经网络,在多层前馈网的应用中,以上图所示的单隐层网络的应用最为普遍。一般习惯将单纯隐层前馈网成为三层前馈网或三层感知器,所谓三层包括了输入层、隐层和输出层。三层前馈网中,输入向量为,如加入,可为隐层神经元引入阈值;隐层输出向量为,如加入,可为输出层神经元引入阈值;输出层输出向量;期望输出向量为。输入层到隐层之间的权值矩阵用V表示,V=(V,V,V,V),其中列向量V为隐层第个神经元对应的权向量;隐层到输出层之间的权值矩阵用W表示,W=(W,W,W,W),其中列向量W为输出层第个神经元对应的权向量。下面分析各层信号之间的数学关系。对于输入层,有 (2
31、-1) (2-2)对于隐层,有 (2-3) (2-4)以上两式中,转移函数均为单极性Sigmoid函数 (2-5)具有连续、可导的特点,且有 (2-6)式(2-1)式(2-6)共同构成了三层前馈网的数学模型。2.3 多层前馈网络的主要能力多层前馈网之所以是目前应用最多的神经网络,主要归结于基于BP算法的多层前馈网络具有以下的一些重要能力。(1)非线性映射能力 多层前馈网能学习和存储大量的输入输出模式映射关系,而无需事先了解描述这种映射关系的数学方程。只要能提供足够多的样本模式对供BP网络进行学习训练,它便能完成由维输入空间到维输出空间的非线性映射。在工程上及许多技术领域中经常遇到这样的问题:对
32、某输入输出系统已经积累了大量相关的输入输出数据,但对其内部蕴含的规律仍未掌握,因此无法用数学方法来描述该规律。这一类为题的共同特点是:难以得到解析解;缺乏专家经验;能够表示和转化为模式识别或非线性映射问题。对于这类问题,多层前馈网络具有无可比拟的优势。(2)泛化能力 多层前馈网络训练后将所提取的样本对中的非线性映射关系存储在权值矩阵中,在其后的工作阶段,当向网络输入训练时未曾见过的非样本数据,网络也能完成由输入空间向输出空间的正确映射。这种能力称为多层前馈网的泛化能力,它是衡量多层前馈网络性能优劣的一个重要的指标。(3)容错能力 多层前馈网络的魅力还在于,允许输入样本中带有较大的误差甚至个别错
33、误。因为对权值矩阵的调整过程也是从大量的样本对中提取统计特性的过程,反映正确规律的知识来自全体样本,个别样本中的错误不能左右对权值矩阵的调整。2.4 BP学习算法BP算法的基本思想是,学习过程中由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传入,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望输出(教师信号)不符,则转入是、误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而或得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号争相传播与误差反向传播的各层权值调整过程,是周而复始地进行
34、。权值不断调整的过程,也就是网络的学习训练过程。此过程一直进行到网络输出地误差减小到可接受的程度,或进行到预先设定的学习次数为止。2.4.1 网络误差与权值调整当网络误差与期望输出不等时,存在输出误差E,定义如下 (2-7)将以上误差定义式展开至隐层,有 (2-8)进一步展开至输入层,有 (2-9)由上式可以看出,网络误差是各层权值、的函数,因此调整权值可改变误差。显然调整权值的原则是使误差不断地减小,因此应使权值的调整量与误差的负梯度成正比,即 ; (2-10) ; (2-11)式中负号表示梯度下降,常数表示比例系数,在训练中反映了学习速率。2.4.2 BP算法的原理推导式(2-8)仅是对权
35、值调整思路的数学表达,而不是具体的权值调整计算公式。下面推导三层BP算法权值调整的计算公式。在全部推导过程中,对输出层均有;对隐层均有;。对于输出层,式(2-10)可写为 (2-12)对于隐层,式(2-12)可写为 (2-13)对于输出层和隐层各定义一个误差信号,令 (2-14) (2-15)综合应用式(2-5)和式(2-14),可将式(2-12)的权值调整式改写为 (2-16)同样,式(2-15)改为 (2-17)可以看出,只要计算出式(2-12)中的误差信号和,权值调整量的计算推导即可完成。下面推导如何求和。对于输出层,可展开为 (2-18)对于隐层,可展开为 (2-19)下面求式(2-1
36、3)中网络误差对各层输出地偏导。对于输出层,利用式(2-7),可得 (2-20)对于隐层,利用式(2-8),可得 (2-21)将以上结果带入式(2-15),并应用激活函数的性质得, (2-22) (2-23)至此两个误差信号的推导已完成,将式(2-16)代回到式(2-13),得到三层前馈网的BP学习算法权值调整计算公式为 (2-24) (2-25)2.4.3 BP算法的程序实现之前推导出的算法是BP算法的基础,称为标准BP算法。由于目前神经网络的实现仍以软件编程为主,现在介绍标准BP算法的编程步骤13。(1)初始化 对权值矩阵、赋随机数,将样本模式计数器和训练次数计数器置1,总误差置0,学习率
37、设为01间小数,网格训练后达到的精度设为一正小数;(2)输入训练样本计算各层输出,用当前样本、对向量数组、赋值,计算和中各分量;(3)计算网络输出误差 设共有对训练样本,网络对应不同的样本具有不同的误差,可用其中最大者代表网络的总误差,也可以用其均方根作为网络的总误差;(4)计算各层误差信号 即计算和;(5)调整各层权值 计算、中各分量;(6)检查是否对所有样本完成一次轮训 若,计数器、增1,返回步骤2,否则转步骤5。从以上步骤可以看出,在标准BP算法中,每输入一个样本,都要回传误差并调整权值,这种对每个样本轮训的权值调整方法又称为单样本训练。由于单样本训练只针对每个样本产生的误差进行调整,难
38、免顾此失彼,使整个训练的次数增加,导致收敛速度过慢。另一种方法是在所有的样本输入之后,计算网络的总误差 = (2-26)然后根据总误差计算各层的误差信号并调整权值,这种积累误差的批处理方式称为批训练或周期训练。由于批训练遵循以减小全局误差的原则,因而可以保证总误差向减小方向变化。在样本数较多时,批训练比单样本训练时的收敛速度要快。批训练流程可参见图2-4。初始化V、W计数器q=1,p=1输入样本,计算各层输出,计算误差计算各层误差信号, 调整各层权值, , pPEEmin结束p增1,q增1E=0,p=1图2-4 批训练流程图2.5 本章小结本章主要介绍了神经网络的起源与发展,是全文的理论指导,
39、在本章的后半段着重介绍本文引用的BP神经网络理论的数学模型及其特性,在2.3与2.4小节给出了BP神经网络的计算机算法与训练流程,这为我们接下来的计算机模拟仿真提供了理论依据。第3章 基于BP神经网络的脉冲噪声检测3.1 脉冲噪声图像的数学模型一般来说,图像中像素的灰度是连续渐变的,脉冲噪声点的灰度是该点正常灰度与噪声灰度的叠加,由于脉冲噪声的上冲与下冲特性,其灰度值往往接近于图像中最大或最小的灰度值,从而与其周围相邻像素点的灰度值相差较大。为了标识脉冲噪声,首先定义与待检测图像的维数大小相同的矩阵,定义为噪声标识矩阵W,在该矩阵中每个矩阵元素都与待处理的噪声图像中每个像素相对应,用表示。即:
40、 (3-1)其中:可取1或0,0代表原图像像素,1代表该元素所对应的原图像像素为脉冲噪声。W初始化为全1矩阵,在进行噪声检测的过程中,根据脉冲噪声的检测结果将矩阵中的元素值设置为0或保持原值1。3.1.1 脉冲噪声模型为了更好地验证本文方法对各种脉冲噪声图像的去噪性能,下面给出两种脉冲噪声模型。1. 噪声模型.对任意像素点,若其为信号点,则像素值为;若其为噪声点,则像素值为,的概率密度函数定义为: (3-2)噪声取值于长度为的两个固定范围内,噪声点随机地取范围内的任意值,且高强度和低强度脉冲噪声按相同比例分布。当时,为椒盐噪声。2. 噪声模型. (3-3)其中,且类似于模型,但高强度和低强度脉
41、冲噪声按不同比例分布。3.2 噪声检测弱分类器的设计根据脉冲噪声的图像特征,利用待识别像素及其邻域灰度差值来判断一个像素是否为噪声点。本文噪声判别参照传统的BDND方法。由上面给出的脉冲噪声模型定义易见,噪声点必然取0或255附近的某个值。以当前点为中心定义一个窗口: (3-4)对窗口内的像素点排序后,要设法确定两个边界和,可将窗口内的像素点按,划分为3个子集,使得噪声点位于和区间内,而非噪声点位于区间内。若当前点像素值位于区间内,则分类为信号点;否则,分类为噪声点。具体算法描述如下:(1)以当前点为中心,取尺寸为窗口;(2)将窗口内的点按像素值升序排序,排序后向量记为,且向量中间元素元素记为
42、;(3)计算向量中相邻两个元素间的差值(后一个元素减去前一个元素),形成差异向量;(4)对于向量中位于区间内的元素,在向量中定位最大差值位置,并将向量中相应未知元素确定为边界;(5)类似地,对于向量位于区间内的元素,可以确定出边界;若当前点像素值位于区间内,则分类为信号点;否则,分类为噪声点。易见,确定边界和的准确度,将直接影响该弱分类器的精度。3.3 噪声检测强分类器的设计对于同一像素点、不同尺寸的弱分类器,可能会给出相反的分类结果。而且,同一个弱分类器,对于不同噪声密度的含噪图像也会表现出不同的分类能力。因此,对于一幅含噪图像,首先要用若干不同尺寸的弱分类器进行分类;再综合考虑各弱分类器针
43、对不同噪声密度图像的分类能力以及各弱分类器之间的联系,采用BP神经网络,训练出强分类器,给出最终判决,得到含噪图像的二进制影射图,0代表信号点,1代表噪声点。BP神经网络的设计包括训练样本集设计、训练与测试和网络结构设计三方面内容。3.3.1 训练和检验样本集设计训练和检验数据的准备工作是网络设计与训练的基础,数据选择以及数据表示的科学合理性对于网络设计具有极为重要的作用。一般来说,训练样本数越多,训练结果越能正确反映其内在规律,但样本数据多到一定程度时,网络的精度也很难进一步提高,训练误差与样本数之间的关系如图3-1所示。误差样本数0图3-1 网络误差与样本数的关系实践表明,网络训练所需的样本数取决于输入-输出间非线性关系的复杂程度,映射关系越复杂,样本中含有的噪声越大,为了保证精度所需的样本数也就越多,而且网络的规模也越大。一些学者经过长时间的学习实践,总结出了一个关于样本数的经验规则:训练样本数是网络连接权总数的5到10倍。由于本网络结构采用了“3-3-1”形式,故根据此原则,训练样本数应该设定在60到120之间,取网络连接权总数的10倍,即120个训练样本。