2014年毕业设计论文模板.docx

《2014年毕业设计论文模板.docx》由会员分享，可在线阅读，更多相关《2014年毕业设计论文模板.docx（20页珍藏版）》请在三一办公上搜索。

1、武汉理工大学毕业设计（论文）论文题目学院（系）：理学院专业班级：信计10XX班学生姓名：XXX指导教师：XXX学位论文原创性声明本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成 果。除了文中特别加以标注引用的内容外，本论文不包括任何其他个人或集体已经发表或 撰写的成果作品。本人完全意识到本声明的法律后果由本人承担。作者签名：2014年5月30日学位论文版权使用授权书（黑体小二号）本学位论文作者完全了解学校有关保障、使用学位论文的规定，同意学校保留并向有 关学位论文管理部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授 权省级优秀学士论文评选机构将本学位论文

2、的全部或部分内容编入有关数据进行检索，可 以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。本学位论文属于1、保密口，在年解密后适用本授权书2、不保密口 。（请在以上相应方框内打“/（宋体小四号）作者签名:导师签名:2014年5月30日2014年5月31日摘要典型相关分析(CCA)由H.Hotelling于1936年提出，是研究两组变量之间相 关关系的有力工具，已在数据分析领域得到了广泛应用，目前在模式识别、图像 处理和生物信息学等方面，也引起了研究者的关注，但就国内而言，相关研究还 比较少。CCA是一种线性模型，对非线性问题具有一定的局限性，而核方法通过把 数据映射到高维空间中来提高线性

3、模型的性能，这就为解决非线性问题提供了一 个有效框架，结合CCA，就形成了核化的典型相关分析(KCCA)。本文以CCA为起点，逐步深入，具体内容如下：(1) 介绍了 CCA算法的基本原理与应用，分析了 CCA与其他多元数据分析 方法的关系，同时从数值实验出发，逐步讨论典型相关判别分析(CCDA)的设计 及其与Fisher判别分析(FLDA)的关系，实验表明，对于二分类问题，两者有同 样效果。(2) 介绍了基本的核方法，即核的原理、构造及其性质等，并结合CCA，讨 论了 KCCA的基本原理与应用，同时利用非完全的矩阵分解技术，设计了 KCCA 的近似计算方法，并利用数值实验，讨论了核典型相关判别

4、分析(KCCDA)的设 计，并与CCDA进行对比，实验表明对于非线性数据集，KCCDA的分类效果好 于 CCDA。(3) 分析了用于决策级融合的AdaBoost.M1算法，并结合KCCDA(CCDA)， 提出了基于决策级融合的KCCDA (CCDA)模型。(4) 将本文诸模型应用于人脸识别中。选取ORL人脸数据库，利用二次小 波变换对其压缩，设计本文的人脸数据集，在该数据集上，首先比较CCDA与 KCCDA的性能，结果表明KCCDA的效果要好于CCDA；其次比较了 CCDA、 KCCDA、NNC、PCA、PCA+CCDA 的识别率，以分析 CCDA 与 KCCDA 用于 人脸识别的有效性及其局

5、限性，最后利用基于AdaBoost.M1融合的KCCDA与 PCA模型进行人脸识别，发现AdaBoost.M 1能显著的改善弱分类器KCCDA的 性能，但对强分类器PCA的性能改善不大。关键词：典型相关分析；核理论；分类器融合；人脸识别；主成份分析AbstractCanonical correlation analysis (CCA) was first put forward by H.Hotelling in 1936, and has been used as an effective tool in analyzing correlation between two variation

6、s. Nowadays, it is utilized very broadly in data analysis field, and also attracts more and more attention in the recognition, image process and Bioinformatics field, however, its application in recognition is very rare in the home.As a linear model, the learning ability of CCA is limited in some ex

7、tent, but kernel representation offers an effective framework for non-linear problems by projecting the data into a high dimensional feature space to increase the computational power of the linear learning machines, so kernel-CCA (KCCA) is put forward naturally.Because of the rapid development of In

8、ternet, it is very easy to collect various information, so the problem that how we can collect useful information for effective use has to be solved. Based on these factors, information fusion becomes a active field, and it is also very rare to combine information fusion and KCCA in recognition fiel

9、d.Beginning with CCA and further to that, basic contents of the paper are:(1) Introduce the basic theory and application of CCA, and analyze the relationship between CCA and the other data analysis methods. To illustrate CCA clearly, data experiment is employed and helps design CCA discriminant mach

10、ine (CCDA) and compare the performance between CCDA and FLDA, experiment shows that they have the same performance in two class recognition problems.(2) Introduce the basic kernel theory such as kernel representation, kernel construction and its character. Also as the same way we research CCA, the b

11、asic theory of KCCA is introduced, and for the purpose of reducing the computational complexity, incomplete matrix decomposition method is used to compute KCCA model. Also, data experiment is used to help design KCCA discriminant machine (KCCDA) and compare the performance between KCCDA and CCDA, to

12、 non-linear data set, KCCDA is better than CCDA.(3) Analyze the AdaBoost.M1 algorithm for decision-level fusion, and construct KCCDA(CCDA) model based on AdaBoost.Ml.(4) Apply all discriminant model of the paper to face recognition. In the experiment, we use ORL database and compress images by twice

13、 wavelet transformation so as to construct our face data set, in which we compare the performance during CCDA, KCCDA, NNC, PCA, PCA+CCDA to analyze the feasibility and limitation of KCCDA and CCDA. Finally, we apply AdaBoost+KCCDA and AdaBoost+PCA to face recognition, and get a conclusion that AdaBo

14、ost.M1 can improve the performance of weak learner-KCCDA remarkably but strong learner PCA reversely.Key Words:Canonical Correlation Analysis； Kernel Method； Multiple Classifier Fusion ；Face Recognition； Principal Component Analysis目录第1章绪论11.1背景分析11.2研究现状11.2.1 CCA及KCCA的研究现状11.2.2分类器融合的研究现状21.3主要研究内

15、容32典型相关分析及线性分类器的设计42.1引言42.2 CCA问题刻画与求解算法42.2.1 CCA 问题描述22.42.3基于CCA的数据实验：探讨CCA线性分类器的设计52.5.1实验I ： CCA基础实验53核典型相关分析算法回顾及分类器设计73.1引言73.2核方法简介74基于KCCA分类器融合的人脸正面识别85总结与展望95.1论文总结95.2研究展望9附录 I 源程序(ADABOOST.M1)11致谢13第1章绪论1.1背景分析人工智能专家Simon对学习的论述：“如果一个系统能够通过执行某个过程 改进它的性能，这就是学习”。对于机器学习，由于目标不同，分为从有限观察 概括特定问

16、题世界模型的机器学习”、“发现观测数据中暗含的各种关系的数据分 析”以及“从观测数据挖掘有用知识的数据挖掘”等不同分支，其共同目标都是“从 大量无序的信息到简洁有序的知识”。其中“发现观测数据中暗含的各种关系的数 据分析”的代表方法是典型相关分析(canonical correlation analysis，CCA)。CCA是由H.Hotelling于1936年提出，其意义在于：对给定的两个(或多个) 数据集寻找一组合适的线性变换，从提取的数据中发现、度量和评价它们之间存 在的线性相关关系。就目前而言，它的理论已经比较完善，但关于CCA用于模 式识别的研究目前还比较少，这一领域应该有较大的发展

17、前景。CCA是一种线性学习模型，早在20世纪60年代，M.Minsky和S.Papet就已 指出线性学习器的计算能力是十分有限的，而在20世纪90年代中期，出现了新 的被称为基于核的(kernel-based)学习方法，核方法通过把数据映射到高维空间来 增加传统线性学习器的计算能力，这就为解决非线性问题提供了一个有效框架， 目前核方法的研究已成为模式识别领域的一个热点问题。联系到CCA，结合核 方法，就形成了核化的典型相关分析(KCCA)，有效的提高了传统CCA的学习能 力，可以预见KCCA在模式识别领域的应用将会越来越广。20世纪90年代，互联网的兴起使得获得各种类型的信息变得非常容易，如

18、何从这些不同形式的信息中获取人们感兴趣的部分并达到增效利用的目的，成为 摆在目前的一个问题，信息融合开始成为一个活跃的研究领域，目前将KCCA 与信息融合结合来进行模式分类的方法基本上还比较少，这使得本文的研究比较 实用，能凸显一定的价值。1.2研究现状1.2.1 CCA及KCCA的研究现状限于本文主题，CCA及其KCCA主要运用于如下几个方面：1) 数据分析。CCA主要应用于数据分析，即给定两组观察样本，通过典型 相关分析，得到若干组典型相关系数和典型相关变量，这方面的理论是比较完善的，大多数国内外文献均有介绍。2)模式识别。1938年，Bartlett首次发现，在二分类问题中，采用某些类标

19、 号形式时CCA与LDA(线性判别分析)等价，从此拉开了 CCA用于模式分类的序 幕，但关于CCA及KCCA在模式分类中的应用，国内研究得比较少，大多研究 见于国外文献，文献1从宏观上分析了 CCA的学习算法，并分析了 KCCA在基 于内容的检索(content-based retrieval)与基于编号的检索(mate-based retrieval)中的 应用；文献2介绍了 KCCA在分类(labels)、跨语言的文本挖掘(cross-language text mining)、机器翻译(machine translation)及其图文检索(image-text retrieval)中的应

20、 用；文献3讨论了 KCCA在非线性相关性度量与独立性测试(nonlinear measures of association and test of independence)中的应用；文献4运用 KCCA 进行 Hammerstein-Wiener 系统的子空间识别(subspace identification)；文献5根据 CCA 的特征结合核学习有关理论，提出一种在可再生核Hilbert空间为独立分量分析 构建函数的方法；国内博士论文6运用增强的CCA模型来解决机器学习中的两 种主要的学习问题：模式识别与回归建模；硕士论文7受SpPCA (子模式主成份 分析)启发，提出了 SpCCA

21、方法。1.2.2分类器融合的研究现状近年来，多分类器融合的应用于模式识别等领域，如于写字符识别、人脸识 别、遥感图像分类、文本分类和检索、语音识别和理解等，并取得了一定成果， 文献8研究了多分类器融合中的模糊测度问题；文献9研究了多信息融合的人 脸检测算法，类似的，文献10运用基于多特征融合技术进行人脸表情识别；文 献11提出了基于Fisher准则的多特征融合方法；文献12研究了基于多分类器 融合的数据挖掘分类算法；文献13141516研究了 Boosting系列的多分类器 融合算法。目前，多分类器的理论研究主要集中于以下三个方面：1) 对融合工具的研究。这方面的研究是多分类器融合技术的核心内

22、容。目 前，常用的融合方法有投票法、Bayes规则、D-S证据理论、基于模糊集的融合 方法、Kalman滤波方法和神经网络等。2) 对多分类器融合的资源结构进行优化。多分类器的融合不仅包括信息的 获取、处理、评估和集成，还包括对分类器的管理与控制。这方面的研究主要是 如何协调管理多个分类器，以使融合后获得最好性能。当分类器较多时，它们之 间的交互影响也会非常复杂，而且它们之间的相关性有可能还会随着处理对象的 不同而变化。因此，如何实时地选择合适的分类器进行融合，既能节省资源又能 最大限度地获取有用信息，是提高分类性能的重要方法。3) 对单个分类器的研究。单个分类器的分类性能会影响到多分类器融合

23、的 分类性能，并且将不同的分类器进行融合得到的效果也不同。一般认为，单个分 类器的性能越好，由这些分类器进行融合取得的分类性能就越好；融合的各分类 器之间的相关性越小，越有利于得到好的融合效果。1.3主要研究内容本文主要目的是对CCA与KCCA在模式识别领域进行探索性研究，主要研 究内容可大致归纳为：1) 介绍了 CCA算法的基本原理与应用，并以信息论的角度，分析了 CCA与 其他多元数据分析的关系，同时从数据实验出发，逐步讨论典型相关判别分析 (CCDA)的设计思路及其与Fisher判别分析(FLDA)的关系。2) 介绍了基本的核方法，即核的原理、构造及其性质等，并结合CCA，讨 论了 KC

24、CA的基本原理与应用，同时利用非完全的矩阵分解技术，设计了 KCCA 的近似算法，并利用数据实验，讨论了核典型相关判别分析(KCCDA)的设计， 并与CCDA进行对比。3) 分析了用于决策级融合的AdaBoost.M1算法，并结合KCCDA(CCDA)， 提出了基于决策级融合的KCCDA (CCDA)模型(AdaBoost+KCCDA)。4) 将本文诸模型应用于人脸识别中。选取ORL人脸数据库，利用二次小波 变换对其降维，设计本文的人脸数据集，在该数据集上比较了 CCDA、KCCDA、 NNC、PCA、PCA+CCDA的识别率，以分析CCDA与KCCDA用于人脸识别的 有效性及其局限性，最后利

25、用基于AdaBoost.M1融合的KCCDA与PCA模型进 行人脸识别，发现AdaBoost.M1能显著的改善弱分类器KCCDA的性能，但对 PCA强分类器的性能改善不大。为使脉络清晰，本文主体框架结构如图1.1所示：图1.1本文主体框架结构第2章典型相关分析及线性分类器的设计2.1引言典型相关分析（canonical correlation analysis）是用于分析两个随机向量之间相 关程度的一种统计方法。典型相关分析以两组向量之间的相关性为优化对象，对 原向量进行特征提取，从而把两组高维随机变量之间的相关性研究转化为对两组 低维随机变量之间的相关性的研究，且低维变量的各个分量之间互不相

26、关。同时，CCA和其他多元分析方法有着千丝万缕的联系，如主成分分析（PCA）、Fisher线性判别分析（FLDA）、偏最小二乘法（PLS）、多元线性回归 （MLR）和独立分量分析（ICA）等，但CCA区别于其他多元分析方法的一个 显著特点是其着眼于不同信道的样本之间相关信息的研究。本章2.2节给出了 CCA问题的刻画及其求解算法，在此基础上，2.3节讨论 了 CCA的局限性与相应的解决方案，2.4节讨论了 CCA与其他多元分析算法的 关系，2.5节从数据实验角度，分析了如何用CCA设计线性分类器（CCDA），并 讨论了 CCDA与Fisher线性判别分析（FLDA）的关系。2.2 CCA问题刻

27、画与求解算法2.2.1 CCA问题描述设有两组随机变量X = （X ,X , ,X ）T与Y = （Y,Y, ,Y ），X与Y有相同 12p12 qi i维数，CCA的目的是寻找基向量W ,W，使得线性组合U = WX与V = WtY存在最大相关性，则有如下定义：， cov(U，V)定义2.2.1设p维常向量W1和q维常向量W满足：max |p(WtX,WtY)| (2.1)8 2(WtX )=1*82(W tY)=1yP(U ,V )| = |p(W tX,W tY)|= -一1 1 i I n 刃var(U1；var(V1)则称U1 = W 1tX和匕=W 1tY为X和Y的第一组典型相关变

28、量，|p （气,匕）|为其相 应的典型相关系数yl1 1在有些问题中仅用第一组典型相关变量可能还不足以抽取总体的特征，这时 可以考虑第二组典型相关变量，使得它们在与第一组变量保持不相关的前提下， 最大化相关系数，则有如下定义：是p维和q维常向量，满足:定义2.2.2对k 2，设第k -1组典型相关变量已经定义，设叫.和W狄分别(2.2)IPU，匕)1 = |P(匕顷W0)| =皿 p(wx，所，)p（u，v）i 为第其中 max 的含义是在 var(W tX) = var(W TY) = 1 及 cov(W tX, W tX) = cov(W tY , W tY) = cov(W tX,W t

29、Y) 丁cov(W tY,WX) = 0，i = 1,2, k -1 的条件下求极大 值；称U = wXtx和V = W tY为x和Y的第k组典型相关变量， k个典型相关系数。y2.3基于CCA的数据实验：探讨CCA线性分类器的设计本节完成两个实验，第一个实验对两组数据进行CCA，目的为更好的理解 CCA；第二个实验探讨如何用CCA进行模式分类，同时从数值仿真角度讨论与 FLDA之间的关系。数据（1）为随机生成服从二维正态分布的二类样本，如下表所示：表2.1实验数据（1）类别均值方差训练样本个数测试样本数1(1,1T一 2 0 一_ 0 1 _3001002(5,5)t一 3 0 一0 230

30、01002.5.1实验I ： CCA基础实验这里记类别1为X = 3 ,X ），类别2为Y = （y , y ），按2.2节介绍的求解算1212法，对X和y进行典型相关分析（将训练样本与测试样本合并）。图2.1实验数据分布图2.2典型相关变量的方向图2.1显示了实验数据的分布情况，很明显这两类样本线性可分，图2.2 显示了第一组典型相关变量的投影方向，其对应的典型相关系数为0.1015,即这两类样本基本没有什么相关性，具体实验结果见下表。表2.2 CCA实验结果组号典型相关变量典型相关系数U1 =-0.3112气-0.7585七V = 0.4628J1 - 0.708七0,1017U2 = -

31、0.5252气+ 0.7656七-0 0072V = -0.2853J1 - 0.4882七文献5 简要介绍了典型相关系数的假设检验方法，通过构造某种统计量， 来判断某个典型相关系数是否有效，本论文就不再介绍了。第3章核典型相关分析算法回顾及分类器设计3.1引言前一章介绍了经典的CCA算法，并用数据实验逐步分析了基于CCA的线 性分类器的设计，但线性学习模型的计算能力比较有限，真实世界中的一些复杂 应用问题需要比线性函数更富有表达能力的假设空间。20世纪90年代中期出现 的基于核(kernel-based)的学习方法，使得研究人员能够有效地分析非线性关系， Kernel-CCA (KCCA)正

32、是遵循了这样一条思路。本章3.2节简要介绍了利用核方法解决问题的一般模式，并分析了一些常用 核的性质；3.3节回顾了 KCCA的基本算法，分析了 KCCA的稳定性，同时介绍 了相关近似计算方法；3.4节利用数据实验，并结合上一章的分析，讨论基于 KCCA的分类器的设计。3.2核方法简介核方法通过把数据映射到高维空间来增加传统的线性学习器的计算能力。根 据T. Cover的模式可分性定理可知，一个复杂的模式分类问题映射到高维空间 后，会比在低维空间变得更容易线性可分。核方法的两个关键之处在于：(1)利用非线性映射将原非线性问题变成特征 空间中一个可能的线性问题；(2)通过低维空间的核函数进行高维

33、空间的内积计 算。所谓的“核技巧”(kernel trick)即在算法中出现样本内积时进行核函数代入， 这种方法在支持向量机(SVM)中应用得比较成功，下面通过一个例子说明核方 法。设一个二维空间为X(口 2，考虑非线性特征映射：(3.1)。:X = (x , x A 0 (X=) 2X 2哀,；2ex 女 F 3 将数据从二维空间映射到三维空间，在；空间内积的计算为:(8( X )0利 XX X 22 厂X X 22 z 平(y z z ,) 2)=x)2z)2+ x z 22xx z z ) 2(3.2)=(xz + xz )2 =X,Z)：2 1 12 2设函数K(X,Z) =X,Z；：

34、2，则F是它对应的特征空间，这样可以计算两个点在特 征空间的投影之间的内积，而不用显示地求出它们的坐标，这里函数k (X,Z)称 为核函数，下面给出核函数的定义。第4章基于KCCA分类器融合的人脸正面识别本章主要讨论基于分类器融合的人脸正面识别算法，在本论文中人脸识别指 的是人脸鉴别(Face Identification)，即将待识别的人脸与数据库中的已知人脸比 较，判断该人脸是否是数据库中的样本。本章4.2节简要介绍了 AdaBoost.M1算法的背景 及特点，并重点对 AdaBoost.M1算法进行分析；4.3节利用KCCA设计了一个人脸正面识别的弱分 类器，并运用AdaBoost.M1

35、算法对该弱分类器进行融合进而构造一个强分类器， 以提高识别率；4.4节在ORL人脸数据库上测试本文算法。第5章总结与展望5.1论文总结本文主要目的是对CCA与KCCA在模式识别领域进行探索性研究，对于目 前已经研究过的内容，例如CCDA与KCCDA分类器的设计等，本文主要以实 验方式进行探讨，主要研究工作与成果总结如下：1) 介绍了 CCA算法的基本原理与应用，并从信息论的角度，分析了 CCA 与其他多元数据分析的关系，同时从数据实验出发，逐步讨论典型相关判别分析 (CCDA)的设计思路及其与Fisher判别分析(FLDA)的关系。2) 介绍了基本的核方法，即核的原理、构造及其性质等，并结合C

36、CA，讨 论了 KCCA的基本原理与应用，同时利用非完全的矩阵分解技术，设计了 KCCA 的近似计算方法，并利用数据实验，讨论了核典型相关判别分析(KCCDA)的设 计，并与CCDA进行对比。3) 分析了用于决策级融合的AdaBoost.M1算法，并结合KCCDA(CCDA)， 提出了基于决策级融合的KCCDA (CCDA)模型(AdaBoost+KCCDA)。4) 将本文诸模型应用于人脸识别中。选取ORL人脸数据库，利用二次小波 变换对其压缩，设计本文的人脸数据集，在该数据集上，首先比较 CCDA与 KCCDA的性能，结果表明KCCDA的效果要好于CCDA；其次比较了 CCDA、 KCCDA

37、、NNC、PCA、PCA+CCDA 的识别率，以分析 CCDA 与 KCCDA 用于 人脸识别的有效性及其局限性；最后利用基于AdaBoost.M1融合的KCCDA与 PCA模型进行人脸识别，发现AdaBoost.M 1能显著的改善弱分类器KCCDA的 性能，但对强分类器PCA的性能改善不大。5.2研究展望结合本文的工作及存在的问题，需要进一步研究的内容包括：1)由人脸识别实验，CCDA分类器的识别率是相当低的，根据前面的分析， 这部分是由训练矩阵的高度病态化引起的，因此本文利用PCA进一步降维，以 考察是否与高维矩阵有关，而PCA+CCDA的最高识别率也只有0.685，说明这 是CCDA自身

38、的问题，因此问题可能出在以下两个方面：(1.1) CCDA构造矩阵的计算问题。因为CCDA提取的特征依赖与该矩阵的 特征向量，所以如何避免该矩阵的出现病态化是一个很重要的问题，由于PCA 同样也需要计算特征向量，因此是否能借鉴PCA某些改进的计算方法，是一个 要继续研究的问题。(1.2) CCDA标号数组的问题。由于CCDA的投影向量是由原始数据集与标 号数组之间通过CCA计算得到的，那么在多分类问题中，该投影向量提取的特 征是否最优，及标号数组是否对识别率有较大影响，如果有，那么标号数组如何 设计，目前，还没有文献对这两个问题给出理论上的解释，因此这也是要研究的 问题。2) KCCDA算法中

39、的核、核参数及正则化参数的选取问题。由第3章的实验 分析，KCCDA对正则化参数不具备鲁棒性，同时核与核参数的选取也是一个很 困难的问题，目前通常依靠经验或交叉验证的方法来解决，因此KCCDA分类器 存在太多不好确定的参数，不能算得上是一个易于操作的机器学习系统，如何确 定这些参数，同时减少计算成本也是一个要继续研究的问题。3) 分类器融合的速度问题。本文利用AdaBoost.M1算法融合KCCDA分类 器时，如果迭代次数很多，计算速度是很慢的，由于识别系统均有实时性的要求， 因此如何提高多分类器融合的速度也是一个有意义的研究方向。参考文献1 刘国钧，陈绍业，王风翥.图书馆目录M.北京：高等教

40、育出版社，1957.2 Schacht E. Industrial polysaccharidesM. Amsterdam： Elsevier Science, 1987.3 辛希孟.信息技术与信息服务国际研讨会论文集：A集C.北京：中国社会科学出版社， 1994.4 张筑生.微分半动力系统的不变集D.北京：北京大学数学系数学研究所，1983.5 冯西桥.核反应堆压力管道与压力容器的LBB分析R.北京：清华大学核能技术设计 研究院，1997.6 金显贺，王昌长，王忠东，等.一种用于在线检测局部放电的数字滤波技术J.清华大 学学报(自然科学版)，1993，33 (4)： 62-67.7 Spri

41、ggs G E . A history of fine grained hardmetalJ . Int J of Refractory Metal and Hard Material，1995，13： 241-255.8 姜锡洲.一种温热外敷药制备方案P.中国专利：881056073，1989-07-269 Berto R, Poggio T. Face recognition: Feature versus templates. IEEE Trans on PAM I,1993,15(10):1024-1052.附录I源程序(AdaBoost.M1)由于程序较多，这里只付AdaBoost,

42、M1分类器融合的Matlab程序。function AdaBoost_M1_Weaker()% % % % AdaBoost.M1框架程序及其弱分类器% % % % Copyright :郑亮 武汉理工大学 应用数学% % % % 2008 年 5 月 11 日% % % %注释运行弱分类器% % % %分类器融合速度是很慢的，最好选取几个特征点，不能循环！!% % % %融合程序适用于弱分类器，能提高10%个百分点，但用于% % % %强分类器效果不明显clc;clear;%1-读数据文件：X,Y,TX=Test_Store(1);%X为原训练集；%Y为标号数组；%TX为原测试集；%2-Ad

43、aBoost 初始化：% T=11;%迭代次数ate=1;for T=16:20W1=ones(1,200)/200;% 初始权值Index=zeros(T,200);%标示数组：warning:对原测试集；ini_index=zeros(1,200);%标示数组：warning:对原训练集；Result=zeros(1,200);% 显示最后结果；error=zeros(1,T);%错误率存储数组,warning:对原训练集而言；Beta=zeros(1,T);%信率存储数组；%3-AdaBoost.M1 算法框架构建：%1迭代过程-for t=1:TP=W1/sum(W1);% RX,RT

44、X=PCA(X,YTX,P,40);%函数1a-调用弱分类器PCA，获得投影后样本集； RX,RTX=KCCDA(X,Y；TX,P,10A3,16);%函数 1b-调用弱分类器 KCCDA Dis=NNC(RX,RTX);%函数2-最近邻分类器Index(t,:)=Recognition(Dis);%函数 3-测试集识别结果% Tsuccess(t)=length(find(Index(t,:)=Y)/200; %每次迭代的测试集识别率；error(t),ini_index=Find_Error(RX,YP);%函数4-此次迭代的错误率，对于训练集而言！; if error(t)0.6 %可以

45、放宽约束T=t-1;if T=0T=1;end致谢值此论文完成之际，我首先要感谢我的父母，四年来一直默默给予我鼓励与 帮助，感谢他们在我成长过程中提供的良好社会与学习环境，使得我能安心的学 习与发展自己的个性，祝他们身体健康。其次感谢论文指导老师XXX老师，本论文从选题、资料收集，到研究工作的 开展和最后的定稿，都是在他的悉心指导下完成的。他给我的论文提供大量辅导 工作，正是他热心的关怀才使我的论文得以顺利完成。导师严谨的治学态度、广 博的知识、积极进取的工作精神和勇于创新的思想令我深深敬佩，这一切将使我 受益终生。感谢数学系的曾祥金、楚杨杰和黄璋灿等老师，他们从教学，科研及数模竞 赛上给予了我很大帮助，使我终生收益。最后，感谢理学院在2010年9月给予我的帮助，这将从根本上改变我的命 运，期望今后在读研期间，自强不息，继续前行。XXX2014年5月30日