《基于隐马尔可夫模型及支持向量机的故障诊断(中文).doc》由会员分享，可在线阅读，更多相关《基于隐马尔可夫模型及支持向量机的故障诊断(中文).doc（8页珍藏版）》请在三一办公上搜索。
1、基于隐马尔可夫模型及支持向量机的故障诊断 柳新民 刘冠军 邱静 胡茑庆 国防科技大学机电工程与自动化学院,长沙410073摘要：针对故障诊断中机器学习方法存在的问题，根据隐马尔可夫模型(HMM)适合于处理连续动态信号与支持向量机(SVM)适合于模式分类的长处，提出了基于HMM-SVM 串联结构的故障诊断模型。隐马尔可夫模型的通常描述类别内的相似性，并适合于处理连续动态信号。支持向量机表示类间的有效差异和具有完善的分类能力。这种方法是建立在HMM和SVM的优点上的。那么，对于直升机传输系统的减速器的振动信号的提取的实验，这种基于HMM-SVM的诊断方法是培训和用于变速箱故障的监测和诊断。结果表明
2、，该方法优于基于HMM的和SVM的诊断方法，在利用少量训练样本完成故障诊断上有更高的准确性。关键词：隐马尔可夫模型 支持向量机 故障诊断0引言变速箱在直升机传输系统非常重要，它直接的影响直升机的可靠性和安全性，迅速有效地诊断变速箱的故障非常重要，目前减速器监测与诊断中广泛应用的机器学习方法(如神经网络)在使用中存在一些困难， 例如： (1)诊断是某一时刻信息和模板库相匹配的结果，忽略了前后关系，具有一定的局限性；(2)采用的是经验风险最小化原则 ，需要大量故障训练样本，训练样本获取困难等。隐马尔可夫模型（HMM）是从Morkov链的基础上发展起来的一种统计模型，隐马尔可夫模型（HMM）是一个双
3、重随机过程，并且无法观察（隐藏的），可以通过另一套随机过程来观察，隐马尔可夫模型（HMM）是一个以状态转移概率为特征的参数化模型，考虑到特定的系统状态和初始化状态的瞬时发生的可能性。这些参数通过Baum-Welch运算法则能适应评估，隐马尔可夫模型（HMM）是作为信号动态时间序列统计模式，具有严谨的数据结构和可靠的计算性能，现已成为语音识别的主流技术，国内外开始把HMM方法引入到状态监测和故障诊断领域中来，取得了优于神经网络的良好效果。向量机（SVM）是它是一种新的机器学习技术，是建立在小样本机器统计学习理论的VC维理论和结构风险最小化原则基础上的，向量机（SVM）执行好的交易接近已知数据和S
4、VR的近似的复杂功能，和拥有高性能，向量机（SVM）有比人工神经网络（ANN）更多的优点。这些优点如下：向量机（SVM）可以取得少量抽样调查中的最优解,向量机（SVM）求解最后转化成二次规划问题的求解，因此SVM 的解是全局唯一的最优解，改变解决规划设计的二次方程式的问题的最优解，可以采取最佳全面的解决方案，但只有局部最优解可以被人工神经网络（ANN）所接受，SVM改变样板空间通过非线性变换到特征空间，在特征空间里。 它具有结构线性分类功能，以实现非线性分类中的采样空间，这表明了机器学习具有良好的归纳性能，并解决了维数问题。SVM已成功地应用于故障诊断，因为他们具有出色的分类能力。隐马尔可夫模
5、型（HMM）适合于处理连续动态的信号，然而支持向量机(SVM)适合处理分类，隐马尔可夫模型（HMM）表达更多的是类别内的相似性，向量机（SVM）反映了类别间的差异。由于两种表现的内容不一样，因此文中结合这两个统计模型的有点，提出了一种基于HMM-SVM串联结构的故障诊断模型，结合他们的有点合并成一个理想的，因此，混合了隐马尔可夫模型（HMM）和支持向量机（SVM）的故障诊断方法，用于解决的非平稳故障的诊断问题。1 基于HMM-SVM的诊断模型1.1隐马尔可夫模式隐马尔可夫模式（HMM）是从Morkov链的基础上发展起来的一种统计模型，其中观察到的时间与状态并不是一一对应的，隐马尔可夫模式（HM
6、M）是通过几个参数为特征。首先是状态之间的转移概率分布参数A=aij，表示在t时刻、状态为Si的条件下，在t+1时刻状态是Sj的概率。以qt为时间状态，在时间t，状态数为N，第二，隐马尔可夫模型（HMM）的观察值概率矩阵，是k的观察序列，M是每个状态对应的可能的观测值数目，如果观察数据是连续的，则连续的概率密度起作用，一般几个正态分布的加权和构归因于各自的状态。初始化状态分布矢量：是概率的初始状态。中的A用于定义一个隐马尔可夫模型（HMM），可以计算概率的输出序列，最大概似法过去习惯于重新估计模型参数，列举如下： 是跳转到次数的预期，是转出次数的预期，是转进的次数的预期。 通过所谓的Baum
7、- Welch算法可以实现HMM采集连续特定的观察数据，从初次或预先估计HMM的参数，通过精密的最大概似法更新参数。通过每一步连续的观察一步一步地增大概率，这种训练步骤除了HMM的另一个特征来详细的判断。1.2支持向量机算法本节简要介绍了支持向量机的理论，可以在其中找到支持向量机的详细说明。 统计学习理论(SLT)是由Vapnik等人提出的一种小样本统计理论，以及其他，在20世纪70年代，为机器学习问题建立了一个较好的理论框架,也发展了一种新的通用学习算法支持向量机(SVM)，能够较好的解决小样本学习问题，已成功地应用于模式识别和概率密度函数。 结构风险最小化原则以计算学习理论为基础，SVM寻
8、找一个觉侧面分开训练数据点为两类，使得结果是基于支持向量挑选有效的基础训练组。 至于这两种分类，假设那个训练组是： 分离超平面分为两部分，每一部分包含唯一的相同类标，SVM学习的目标是为了找到最佳分离超平面同时两边拥有最大的余地。它的表现形式如下： 这双重问题就是： 最优决策函数是： 非线性支持向量机的输入变量映射到高维特征空间，适用于线性支持向量机的特征空间，计算结果表明线性支持向量机通过一个技术要点可以实现从特征空间到原始空间。因此我们不是真正需要知道特征空间和特征空间的转换，常见的形式有：线性的，多项式的，RBF式的，S形的。 因此这个问题可以转换为像这样的K的形式： 最优的分离超平面是
9、：对于任何，我们可以通过以下判定B的值， 1.3 基于HMM-SVM的故障诊断基于HMM的故障诊断是由所有HMM模型中输出概率最大的决定，而一个受噪声污染的待辨识信号,有可能若干个HMM模型的输出概率相差无几,只凭概率最大来做决定，存在误判的潜在危险。基于SVM 的故障诊断是依照当前时刻的信号特征进行诊断，忽视了前后时刻的关系，有可能竞争获胜的结果实际上是不可能发生的,导致误判。由于 HMM 利用上下文关系进行模式识别，更多的表达了类别内的相似性；而 SVM 适合于处理分类问题，更大程度上反映了类别间的差异；它们各自的势正好弥补了彼此的不足。针对 HMM 只以最大概率判断的不足，可以利用 SV
10、M 的分类上的优势弥补；同时利用 HMM 处理连续动态信号问题的特点，计算各HMM 模型与待辨识信号的匹配程度，形成特征值，提供给SVM进行诊断，减少 SVM 由于单一时刻判断的错误；由此提出基于 HMMSVM 的故障诊断模型。基于 HMMSVM 的故障诊断模型原理如图 1所示，先利用训练样本 (经过 预处理和特征提取)，由BaumWelch算法训练得到 HMM 模型，再通过Viterbl算法计算小同 HMM 模型产生此观察值序列的概率值(相当于模式匹配度)，由此得到的概率值特征矢量，经归一化后(概率值变化较大，归一化有助于SVM提取支持向量，提高诊断能力)训练SVM分类器。诊断时，对未知信号
11、做同样的预处理和特征提取后，计算信号与各状态HMM模型的匹配程度，得到一组概率，归一化后利用SVM分类器进行辨识，得到诊结果。2 基于HMM-SVM的减速器故障诊断针对某直升机的减速器，在输出转速2800r/min和中间输出扭矩660Nm的工作情况下，通过更换正常与故障零部件进行监测与诊断实验，振动信号由加速度传感器拾取，经电荷放大器放大，采样速率10kHz。分别测试正常、主动齿轮点蚀、主动齿轮裂纹、轴承滚动体局部剥落、轴承外环局部剥落时的振动信号，各测得得数据100组（共500组）,每组1024点，将每种状态的10组数据作为训练样本，所有样本用来检验。基于HMM-SVM的故障诊断过程主要有特
12、征提取、训练模型、识别几个步骤。2.1特征提取线性回归模型可以用来预测以前一个信号样本的线性组合作为下一个信号样本的值，下一个信号样本，是作为前一个样本的加权和。,也可以表示为： 则其传递函数为： 是确定下一个样本的预计值和实际值之间的残差，可以表示为： 权重的计算可以通过残差均方值的最小化作为分析窗口。 机械系统的振动序列所表现的与线性回归模型中的下一个样本信号涉及先前样本P的观察值相似。因此，本文介绍选择状态特征根据多项式的传递函数的映射。P根据先前了解的和系统实验合理的选择。 如果故障信号的周期存在，则必须先经过预处理消除周期，然后再建立线性回归模型。 预处理后，每个振动信号分成T段相同
13、的长度，段与段之间有部分重叠，这里每段有128点长，有64点重叠，从每段提取一些特征，一段信号的特征提取是通过那段信号的多项式传递函数的线性回归模型的表现系数实现。对每段提取6阶自回归模型的参数，这些特征作为直升机变速箱状态的观察值。2.2 基于HMM-SVM故障诊断模型的训练2.2.1HMM模型的训练 由于连续高斯密度混合HMM模型与离散HMM相比，具有失真小、分类更明显的优点，连续高斯密度混合HMM模型采用Markov链速度快的左右型，状态数及混合高斯数根据具体情况选择，在样本数少时，选择较小的值，以得到可靠的模型，这里统一选取4状态Markov链（图2），状态初始概率为=（1，0，0，0
14、），的初始值与转移概率矩阵A一致，2个高斯分布决定每个状态的观察值。 因为最优解的获取依赖于初值的选取，因此采用K均值分段与聚类算法获取一个好的初始值。为了增加HMM诊断模型的适应性，训练时利用多个观察值序列训练的Baum-Welch算法：是先锋变量，是落后变量，L是观测序列。利用K均值分段与聚类算法估算出一套初始模型参数后，各用10组数据训练得到正常HMM、齿轮点蚀HMM、齿轮裂纹HMM、滚动体HMM、外环HMM。训练时一般循环20次左右即可收敛。2.2.2 SVM模型的训练利用训练好的HMM计算训练数据观察序列的概率值结果，经归一化后作为SVN的训练值。迄今为止，我们只讨论了支持向量机考虑
15、的是二值分类的情况，然而，如果我们有兴趣进行故障模式分类实验，我们面对多值分类问题时，最好的方法是建立多个支持向量机，一般建立一个“一对多”策略。或者是“一对一”策略，“一对多”是SVM分类器将每一类模式与剩下的所有类别的模式区分开，这样需要构造的SVM故障分类器的数目等于故障模式个数，“一对一”策略是对n个类的训练样本构造n(n-1)/2个SVM分类器进行两两区分。这里私用使用“一对一”策略，是因为这种方法的单个SVM训练规模较少，训练数据均衡，同时易于扩展，所以我们选择“一对一”策略。常用的核函数有：线性核函数、多项式核函数、径向基核函数、感知器核函数等。这里选用径向基核函数： 相应的参数
16、，惩罚参数C=100。支持向量机的训练算法采用分解算法。这种方法是采用SVM模型的训练。通过实验这里有5组不同的训练数据，因此，是SVN模型的训练。2.3 诊断结果2.3.1基于HMM-SVM的故障诊断的结果首先对待辨识的未知信号零均值归一化，然后划分为15帧，每帧提取6阶AR系数特征，形成观察值序列（T=15）。送入训练得到的HMM分类器，用Viterbi算法计算各个状态HMM模型下此观测值序列的概率:P（O/）,i=1,2,5，概率值归一化后作为SVM分类器的输入，SVM分类器最后按得票多少进行决策，得票最多的类决定未知信号的类别。 将有500组样本按上述诊断过程，逐个由基于HMM-SVM
17、的故障诊断模型进行辨识，结果见表1。 表1 基于HMM-SVM的故障诊断过程 A1 A2 A3 A4 A5A1样本 100 0 0 0 0A2样本 0 100 0 0 0 A3样本 0 0 100 0 0A4样本 0 0 0 100 0A5样本 0 0 0 0 100表中A1表示正常，A2表示齿轮点蚀故障，A3表示齿轮裂纹故障，A4表示轴承滚动体外环局部剥落。结果表明所有样本都被正确诊断出来，效果理想。2.3.2 基于HMM或SVM的故障诊断模型的对比用于基于HMM-SVM的故障诊断方法相同的训练、测试数据及相同的HMM模型（4状态2高斯数）、SVM模型（径向基核函数=0.62，C=100），
18、同样提取6阶AR系数作为HMM与SVM的特征，分别计算基于HMM的故障诊断结果（如表2所示）与基于SVM的故障诊断结果（如表3所示）。 表2 基于HMM的故障诊断结果 A1 A2 A3 A4 A5A1样本 100 0 0 0 0A2样本 0 100 0 0 0 A3样本 0 0 100 0 0A4样本 0 0 0 100 0A5样本 0 0 1 6 93 表3 基于SVM的故障诊断结果 A1 A2 A3 A4 A5A1样本 100 0 0 0 0A2样本 0 100 0 0 0 A3样本 0 0 99 0 1A4样本 0 0 0 100 0A5样本 0 0 4 3 93比较表1、表2与表3，可
19、以看出基于HMM-SVM的故障诊断结果明显好于单纯HMM或SVM故障诊断结果，由单纯HMM或SVM诊断方法引起的误判，在HMM-SVM中都被正确诊断出来，效果良好。3 结 论 基于HMM-SVM的故障诊断方法明显优于单纯呢的HMM或SVM方法，它综合了HMM与SVM的有点，利用HMM处理连续动态信号问题的特点，计算个HMM模型与待辨识信号的匹配程度，形成特征值，提供给SVM进行诊断，减少SVM优于单一时刻判断的错误，同时利用SVM分类上的优势弥补HMM最大概率判断的不足。 实验通过有效提取减速箱非平稳信号的AR特征，训练和利用基于HMM-SVM的状态检测与故障诊断模型，成功的实现对直升机减速箱的状态和故障的监测和诊断，基于HMM-SVM的故障诊断比基于HMM和基于SVM的故障诊断在小样本训练上有更高的准确率。
