《教学课件第六次课其他多元统计方法.ppt》由会员分享，可在线阅读，更多相关《教学课件第六次课其他多元统计方法.ppt（55页珍藏版）》请在三一办公上搜索。
1、第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）2、偏最小二乘法（PLS）3、规范变量分析法（CVA）4、独立元分析法（ICA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）2、偏最小二乘法（PLS）3、规范变量分析法（CVA）4、独立元分析法（ICA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）2、偏最小二乘法（PLS）3、规范变量分析法（CVA）4、独立元分析法（ICA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,设计目的：模式分类、降维,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,就故障诊断问题而言，首先从发生故障的设备中采
2、集数据，然后把这些数据分成类，其中每一类包含着表示某一特定故障的数据。FDA作为一种线性降维技术，可以把各类之间最大程度的分离。,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,1、费舍尔判别分析法（FDA）,第六章 其他多元统计方法,2、偏最小二乘法（PLS）,Parti
3、al Least Squares部分最小二乘法特征结构投影法Project to Latent Structure,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,设计目的：预测、推理实现手段：将降维空间的每个元素的预测矩阵X（独立的）与被预测矩阵Y（相关的）间的协方差最大化的降维技术。,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,只关心质量变量的情况；质量变量的信息不能实时获得；过程变量与质量变量存在一定的线性关系，可以考虑通过监测过程变量来监测质量变量中是否有故障发生。,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,P
4、LS提供这类问题的解决方案。,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其
5、他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,第六章 其他多元统计方法,2、偏最小二乘法/特征结构投影法（PLS）,PLS的降阶PRESS分析法贡献率法,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,CVA在统计分析理论中称为CCA典型相关变量分析,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,线性降维技术将两个变量集的相关性最大化,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,CVA与PLS的不同之处：1、CVA是使协方差矩阵乘
6、上一个系数最大，而使得相关性最大；而PLS直接使协方差矩阵最大。,第六章 其他多元统计方法,3、规范变量分析方法（CVA）,CVA与PLS的不同之处：2、CVA可以通过奇异值分解一次性解出所有元素，PLS则是利用上一步的残差进行计算，顺序选择重要元素的。,第六章 其他多元统计方法,4、独立元分析（ICA）,Independent Components Analysis设计目的：盲源分离从酒会的嘈杂人声中提取所关心的人的声音。实现手段：利用微分熵或数据高阶统计量。,第六章 其他多元统计方法,4、独立元分析（ICA）,实际工业过程中测试数据不服从正态分布；PCA等其他多元统计方法要求数据服从正态分
7、布；ICA可以将数据分解成统计独立的非高斯信号源的线性组合，来解决统计方法依赖于数据分布的问题。,第六章 其他多元统计方法,4、独立元分析（ICA）,熵&微分熵：,第六章 其他多元统计方法,4、独立元分析（ICA）,熵&微分熵：,在所有方差相同的分布中，高斯分布使熵最大化。,PCA原始数据的二阶信息-协方差矩阵ICA-原始数据的高阶信息-熵/微分熵,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,混合矩阵A,分离矩阵W,第六章 其他多元统计方法,4、独立元分析（ICA）,约束条件：1）源
8、信号统计独立2）源信号不服从正态分布，或者至多有1个源信号服从正态分布3）观测变量X的维数不小于源信号S的维数,第六章 其他多元统计方法,4、独立元分析（ICA）,ICA通过最大化观测数据的非高斯性获得源信号S。why？中心极限定理：多个独立随机变量的混合信号趋近于高斯分布。,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,如何实现ICA？常用：FastICA算法1、数据中心化2、数据白化3、初始化向量W4、利用判别式定义更新W5、标准
9、化W：W=W/|W|6、判断收敛性。若未收敛，转步骤4，反之输出W,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,第六章 其他多元统计方法,4、独立元分析（ICA）,ICA所分离出来的源信号：完全正交独立。,多元统计方法小结,1、主元分析法（PCA）2、费舍尔判别分析法（FDA）3、偏最小二乘法（PLS）4、规范变量分析（CVA）5、独立元分析法（ICA）,多元统计方法小结,PCA；FDA；PLS；CVA；ICA,线性降维技术,多元统计方法小结,多元统计方法小结,多元统计方法小结,多元统计方法小结,1、主元分析法（PCA）2、费舍尔判别分析法（FDA）3、偏最小二乘法（PLS）4、规范变量分析（CVA）5、独立元分析法（ICA）,基于数据的故障诊断的简单实现,采集数据样本,求PCA/PLS/FDA/CVA/ICA向量降维,故障检测,计算Bayes函数,诊断故障,计算统计量（T2/SPE）,
