《模糊数学第四章课件.ppt》由会员分享，可在线阅读，更多相关《模糊数学第四章课件.ppt（138页珍藏版）》请在三一办公上搜索。
1、本章内容,1.基于模糊等价矩阵的聚类分析2.直接聚类法3.最佳阈值的确定与模糊聚类系统4.基于模糊划分的模糊聚类法,模糊聚类分析方法大致可分为3大类:,分类数不定，根据不同要求对事物进行动态聚类，此类方法是基于模糊等价矩阵聚类的，称为模糊等价矩阵动态聚类分析方法。分类数给定，寻找出对事物的最佳分类方案，此类方法是基于目标函数聚类，称为模糊C均值（FCM）聚类算法或称为模糊ISODATA聚类分析法。在摄动有意义的情况下，根据模糊相似矩阵聚类的，此法称为基于摄动的模糊聚类分析法。（不讲）,一.基于模糊等价矩阵的聚类分析,聚类分析：,利用给定的指标对事物进行分类,模糊聚类分析：,将模糊数学方法用于聚
2、类分析,问题描述：,模糊聚类的基本思想,定理1.设R Mnn是模糊等价矩阵，则对于任何,0,1，且，R所决定的分类中的每个类 都是R所决定的分类中的某个类的子类。,证：因任意 有,这就是说，如果xi,xj按Ru分在一类，则按R必分在一类，即Ru所决定的每个类是R决定的分类中的某个类的子类。,模糊聚类的基本思想,一个合适的分类应当具有下列3个条件：,(1)自反性：即任何一个对象必须和自己在一类；(2)对称性：即若对象u与对象v同类，则v与u也应同 类；(3)传递性：即若对象u与对象v同类，而v与对象w同 类，则u与w也应同类。满足上述3个条件的关系即为一个等价关系。因此模糊聚类分析是根据模糊等价
3、关系进行的。,例题,例1.设U=x1,x2,x3,x4,x5 求当 1，0.8，0.6，0.5，0.4时的聚类结果。,例题,容易验证，R具有自反性与对称性，又,所以R具有传递性，故R是模糊等价矩阵。,得到分类,定理1说明，越大，分类越细。由1变到0的过程，是R的分类由细到粗的过程，从而形成了一个动态的聚类图。,x1,x2,x3,x4,x5,=1,=0.8,=0.4,=0.6,=0.5,模糊聚类的基本思想,模糊聚类分析的步骤,第一步：数据标准化（建立模糊矩阵）；第二步：建立模糊相似矩阵；第三步：聚类（求动态聚类图）。,模糊聚类分析的步骤一,第一步：数据标准化（建立模糊矩阵）设论域U=x1,x2,
4、xn 为被分类对象，每个对象由m个指标表示其性状：将原始数据矩阵中的元素通过适当的变换压缩到0,1上。,模糊聚类分析的步骤一,第一步：数据标准化（建立模糊矩阵）,常用的两种 变换：根据模糊矩阵的要求，将数据压缩到区间0,1上。平移标准差变换平移极差变换,模糊聚类分析的步骤一,平移标准差变换(消除量纲)：,经过变换后，每个变量的均值为0，标准差为1，且消除了量纲的影响。但不一定在0,1上。,模糊聚类分析的步骤一,平移极差变换(变换至0-1区间)：,显然，且消除了量纲的影响。,模糊聚类分析的步骤二,第二步：建立模糊相似矩阵对于第一步所得到的模糊矩阵，建立其对应的模糊相似矩阵R，rijR(xi,xj
5、)表示xi与xj的相似度。,模糊聚类分析的步骤二,第二步：建立模糊相似矩阵（可选以下方法之一）1、相似系数法：数量积法、夹角余弦法、相关系数法、指数相似系数法、最大最小法、算数平均最小法、几何平均最小法。2、距离法：绝对值倒数法、绝对值指数法、绝对值减数法、海明距离法、欧式距离法、切比雪夫距离法。3、其它方法：主观评分法,（1）数量积法,模糊聚类分析的步骤二,1、相似系数法：,模糊聚类分析的步骤二,(2)夹角余弦法：(3)相关系数法：,模糊聚类分析的步骤二,(4)指数相似系数法：相关系数法中一行表示一个母体的多个样本，指数相似系数法中一行表示一个样本的多个属性,模糊聚类分析的步骤二,(6)算数
6、平均最小法：,(7)几何平均最小法：,(5)最大最小法：,模糊聚类分析的步骤二,2、距离法(8)绝对值倒数法：(9)绝对值指数法：,(10)绝对值减数法:,模糊聚类分析的步骤二,2、距离法直接距离法：rij1-c*d(xi,xj)(11)海明距离：(12)欧式距离：(13)切比雪夫距离：,模糊聚类分析的步骤二,3、其它方法(14)主观评分法 专家直接给出相似度，专家数为N，rij(k)表示第k个专家给出的i与j的相似度，aij(k)为专家的自信度。,模糊聚类分析的步骤三,第三步：聚类（求动态聚类图）1、模糊传递闭包法；,步骤：,第二步得到的模糊矩阵，只是一个模糊相似矩阵，不一定具有传递性，即R
7、不一定是模糊等价矩阵。为进行分类，还需将R改造成模糊等价矩阵。根据上章定理，传递闭包 t(R)为模糊等价矩阵，并可通过逐次平方法求传递闭包t(R)，对t(R)再取适当的 由 截矩阵 便可得到动态聚类。,模糊聚类分析的步骤三,1、模糊传递闭包法；,模糊传递闭包法举例,解：,由题设知特性指标矩阵为,将数据标准化化为,模糊传递闭包法举例,用最大最小法构造模糊相似矩阵得到,用平方法合成传递闭包,模糊传递闭包法举例,取，得,模糊传递闭包法举例,取，得,取，得,模糊传递闭包法举例,取，得,取，得,模糊传递闭包法举例,画出动态聚类图如下：,模糊传递闭包法举例,书P72-75 例题4-3，4-4,说明,当被分
8、类对象很多时，计算模糊相似矩阵R的传递闭包的工作量是很大的。为了减少计算工作量。有些书中给出模糊传递闭包法的C语言程序。也可以用下面我国学者总结的直接用模糊相似矩阵R进行聚类的方法直接聚类法。,模糊聚类分析的步骤三,2、直接聚类法(1)直接聚类法：不求传递闭包，直接从模糊相似矩阵出发求得聚类图；(2)最大树法；(3)编网法；,模糊聚类分析的步骤三,(1)直接聚类法,具体步骤如下：将模糊相似矩阵R中的所有不同的元素rij从大到小的顺序编排，设为,画动态聚类图。,模糊聚类分析的步骤三,例2 利用直接聚类法对例1中给出的环境区域 U=u1,u2,u3,u4,u5进行等价分类。,由例1知模糊相似矩阵为
9、,模糊聚类分析的步骤三,将R中的元素进行排序为,取=1，因相似程度为1的元素只有自己，故U被分成5类：,取=0.70，因在R中，r24=r42=0.70，故得相似类为：,将所有相似的类合并成一类，即得等价类为：,模糊聚类分析的步骤三,取=0.63，因在R中，r14=r41=0.63，故得相似类为：,将所有相似的类合并成一类，即得等价类为：,取=0.62，因在R中，r13=r31=0.62，故得相似类为：,将所有相似的类合并成一类，即得等价类为：,模糊聚类分析的步骤三,取=0.56，因在R中，r34=r43=0.56，故得相似类为：,将所有相似的类合并成一类，即得等价类为：,由此可见，在0.56
10、水平上的等价类与0.62水平上的等价类是相同的。事实上，在0.540.62水平上的等价类是完全相同的。,模糊聚类分析的步骤三,若取=0.53，因在R中，r25=r52=0.53，故得相似类为：,将所有相似的类合并成一类，即得等价类为：,动态聚类图如例1.,从例1、例2可见，利用模糊传递闭包法和利用直接聚类法所得到的等价类是一致的。(我国学者罗承忠证明了这一结果）,例3：,（环境单元分类）,每个环境单元包括空气、水分、,土壤、作物四要素，环境单元的污染状况由污染物,在四要素中含量的超限量来描述，现设有五个环境,单元，它们的污染数据如下：,试根据这些污染数据对五个环境单元进行分类。,模糊聚类分析的
11、步骤三,模糊聚类分析的步骤三,全体归为一类,全体归为一类,直接聚类法,例4,模糊聚类分析的步骤三,(2)最大树法（我国学者吴望明给出的）步骤如下：以所有被分类的对象为顶点；当rij0时，将顶点ui与顶点uj用一条线连接起来，并在线段上注明相关程度rij，具体画法如下 画以被分类元素为顶点，以相似矩阵R为权重的一棵最大树。取0,1,坎断权重低于的枝，所得图中每个连通分支为水平的分类。,模糊聚类分析的步骤三,例5 设论域U=I,II,III,IV,V,相似矩阵R为,用最大树法分类。,模糊聚类分析的步骤三,图1,图3,模糊聚类分析的步骤三,砍去最大树权重低于的枝，即得在水平上的分类：,取=1，得5类
12、：I,II,III,IV,V;取=0.8，得4类：I,III,II,IV,V;取=0.6，得3类：I,III,II,IV,V;取=0.5，得2类：I,III,IV,V,II;取=0.4，得1类：I,II,III,IV,V.,最大树是不唯一的，但可以证明，分类结果是一致的。,最大树法举例,模糊聚类分析的步骤三,(3)编网法：由我国学者赵汝怀提出的，其特点是在模糊相似矩阵R的截矩阵R 上直接进行聚类。,8,模糊聚类分析,总结：1.各种聚类方法各有优劣，传递闭包法适合于计算机 操作，其它方法当矩阵阶数小时，容易手工实现。2.传递闭包法、直接聚类法、最大树法及编网法，尽管在形式上各不相同，但其聚类原则
13、不外乎是，ui与uj在水平上归为一类 元素ui与uj具有等价关系R的程度不小于。因此，对于同一问题，这些方法聚类结果是相同的。,在模糊聚类分析中，对于各个不同的0,1，可得到不同的分类，从而形成一种动态聚类图，这对全面了解样本分类情况是比较形象和直观的.但在许多实际问题中，需要给出样本的一个具体分类，这就提出了如何确定最佳分类的问题.,模糊聚类分析最佳阈值确定,模糊聚类分析最佳阈值确定,(1)专家给出(2)使用F统计量设论域U=x1,x2,xn 为被分类对象，每个对象有m个特征：,设分类数为r，第i类的样本数为ni，分别为x1(j)，,xnj(i)。第i类的聚类中心,模糊聚类分析最佳阈值确定,
14、F统计量：遵从自由度为r-1,n-r的F分布。分子表示类与类的距离，分母表示类内样本间的距离，F值越大，分类越好。,模糊聚类分析最佳阈值确定,对于给定的信度，查F 临界值表得F，取FF差值较大的，说明分类比较合理。如果满足不等式FF(r-1,n-r)的F值不止一个，则可根据实际情况选择一个满意的分类，或者进一步考查差(F-F)/F的大小，从较大者中找一个满意的F值即可.,实际上，最佳分类的确定方法与聚类方法无关，但是选择较好的聚类方法，可以较快地找到比较满意的分类.,模糊聚类分析最佳阈值确定,为便于工程应用，模糊聚类过程已编成计算机软件实现。,模糊聚类分析最佳阈值确定,例7：在探讨暴风雨预报方
15、法时，以江浦县天气周期的划分为基本分类，经筛选确认7个因子：120oE副热带高压脊线的纬度、脊线进退、黄山风向风速以及本站的气压、气温、水汽压、气压与气温的差。用相似系数rij来指定样本间的亲疏程度，得到一个13阶的相似矩阵R，用传递闭包法求得t(R)=R8,然后做出动态聚类图。,模糊聚类分析最佳阈值确定,2 4 11 13 5 10 7 8 1 3 9 12 6,1,0.80,0.70,0.90,0.60,模糊聚类分析最佳阈值确定,本例中，n=13,P=12,P-2=10,共有10个有意义的聚类方案，对每个方案算出其F值，在给定信度=0.05下，查出各个方案的临界值F0.05，列于下表。,分
16、类数 2 4 5 6 7 8 9 10 11 12,0.68 0.70 0.73 0.74 0.75 0.77 0.79 0.81 0.82 0.85,F 0.0892 1.2964 1.2814 4.9053 4.6365 3.3130 2.4619 1.6424 1.0365 0.4929,F0.05 4.84 3.86 3.84 3.97 4.28 4.88 6.04 8.81 19.4 24.3,模糊聚类分析最佳阈值确定,从表中可以看出，只有=0.74或=0.75时才有FF0.05，而其中=0.74时，F比F0.05大得更多。因此取=0.74作为最佳值，其所对应的分类为2,4,11,1
17、3、5,10、7,8、1,3、9,12、6，即分6类为最佳分类。,二、基于模糊划分的模糊聚类法,基于目标函数的模糊ISODATA聚类分析，有时也称为模糊C均值（FCM）聚类法。这种方法是有J.C.Bezdek 和 P.F.Castelaz于1977年提出的，其基本思想是在分类数给定的条件下，利用模糊ISODATA算法寻找出对事物的最佳分类方案。这里的ISODATA是“Iterative Self-Organizing Data Analysis Data Analysia Technique A”的缩写，其中文意思是“迭代自组织数据分析技术。,1.普通C-划分,设 为一有限集，X的普通C划分是
18、指将X分为c类A1，A2，Ac,使得X 中的任意样本xk必须完全属于某一类，以及每一类至少包含一个样本。,二、基于模糊划分的模糊聚类法,这样的划分可以用一个cn阶矩阵来表示（称为划分矩阵）。,1.普通C-划分,其中，,划分矩阵,矩阵具有如下性质：,1.普通C-划分,这表示每一个元素xj必属于且仅属于c个子集中的一个类j;,表示每一个子类非空，且少于n个元素。,反过来，不同的C划分矩阵对应不同的X的C划分。,1.普通C-划分举例,例如，设 若c=3,分类结果为,则对应的分类布尔矩阵为,分类结果为,再进一步将X的一种c-分区空间定义为矩阵集合：,1.普通C-划分,显然，Mc包含了X的所有可能c类划
19、分结果，称Mc为样本集X分为c类的划分空间，称这样的分类为通常的分类。,2.模糊C-划分,当C-划分矩阵的元素的取值并非限于0，1二值，而位于区间0,1时，则演变为模糊划分。,设c,n是给定的两个正整数，且常设cn，U=(uij)cn是模糊矩阵，且满足条件：,称U为X的C-模糊划分矩阵。,2.模糊C-划分,条件（1）表明每一个xj属于c个模糊子类Ai的总和为1；条件（2）表示每一个Ai不等于或X。,称Mfc为X的C-模糊划分空间。,显然，,2.模糊C-划分,若将条件（2）改为,即允许矩阵中有0行（相应子类为空集）和1行（相应子类为全集）出现，这种划分为退化的。若C-模糊划分空间包含退化划分，则
20、称为退化的C-模糊划分空间。,在聚类分析中，找到一定条件下的最佳C-划分矩阵U，就可以找到在该条件下的最佳分类。,2.模糊C-划分举例,例：设，则下列两种情况是可能存在的模糊划分：,我们如何从分区空间 中选择最合理的 c 分区呢？,3.普通ISODATA方法,设 为有限集合（即样本集），X中的元素有m个特征，即,要把X分为c类(2c n):A1,A2,Ac.,对应X的一个划分，给出它的聚类中心,聚类中心就是在每一类Ai中，将样本各特征分别取平均值，所得向量 称为Ai的聚类中心。,目标函数：,式中：,若有X的聚类（U，V）使得J(U,V)达到极小值，则称此聚类为最优聚类。,3.普通ISODATA
21、方法,3.普通ISODATA方法,寻找：,下面是在退化的C-划分空间中求解U的迭代算法，计算步骤如下：,3.普通ISODATA方法,（3）修正,4.基于模糊划分的聚类问题模糊ISODATA方法,令,称 为类Ai的聚类中心，记泛函,计算步骤如下：,（1）取定 取初值（为C模糊划分矩阵），逐步迭代,3.基于模糊划分的聚类问题模糊ISODATA方法,（2）计算聚类中心,3.基于模糊划分的聚类问题模糊ISODATA方法,（3）按如下方法更新U(l),若有 使，则令,若对任意i,都有，则令,3.基于模糊划分的聚类问题模糊ISODATA方法,3.基于模糊划分的聚类问题模糊ISODATA方法,模糊聚类,在求
22、出满足所要求的最佳模糊分类矩阵和最佳聚类中心矩阵之后，可按下列两个判别原则来进行分类：,判断原则I 设求得的最佳模糊分类矩阵为,（1）利用最佳模糊分类矩阵聚类,3.基于模糊划分的聚类问题模糊ISODATA方法,在 的第k列中，如果,则将对象 归于第 i类，即对象 对哪一类的隶属度最大，就将它归到哪一类。,3.基于模糊划分的聚类问题模糊ISODATA方法,（2）利用最佳聚类中心矩阵聚类,判别原则II 设求得的最佳聚类中心矩阵为,如果,则将对象 归于第i类，即对象 与哪一个聚类中心向量最靠近，就将它归到哪一类。,基于c-划分的模糊聚类在QFD中的应用,质量功能展开(QFD)的基本思想是产品开发过程
23、中所有活动都由顾客的需求、偏好、期望所驱动，通过质量屋将顾客的需求、偏好和期望设计到产品和过程中去，从而使产品最大程度的达到顾客的要求.但是，随着QFD应用的不断深入，人们逐渐发现传统的QFD理论与方法存在明显的缺陷和不足，即它不能有效的处理QFD中所需的定性的或模糊化的输入信息.模糊QFD的提出得到了学术界和企业界的广泛关注.企业通过调查获得的顾客需求(Crs)可能来自许多不同的目标市场.不同目标市场内的顾客对产品的需求是有差别的，而这种差别信息也自然包含在这些Crs报告中.探讨基于c-划分的模糊聚类技术在Crs报告中的应用.,基于c-划分的模糊聚类在QFD中的应用,Crs报告的模糊聚类算法
24、 QFD小组通常通过市场调查的方法获取大量的Crs报告，传统的归类方法是运用关键路径法对Crs报告逐级分类,这是以分类者的经验、知觉为依据的实际操作方法,如果运用模糊聚类技术对Crs报告进行分类，使其基于数量化的基础上，将会更加科学、合理.设被分析的顾客群对象的需求报告集合为X=x1,x2,xn，其中每一个需求报告均有m个顾客需求特性指标，即xk=(xk1,xk2,xkm).若xk(k=1,2,n)可分成c个子类，用rik表示xk属于子类i的隶属度，则模糊c-平均法就是要求取矩阵R=rik，且rik满足式两个条件.,基于c-划分的模糊聚类在QFD中的应用,下面是在退化的c-划分空间中求解R的迭
25、代算法，步骤如下：,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,新样本判定规则及聚类效果评判指标,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,聚类效果的检验可用下列指标：,基于c-划分的模糊聚类在QFD中的应用,顾客需求报告模糊聚类仿真研究,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,基于c-划分的模糊聚类在QFD中的应用,本章小结,基于模糊等价矩阵的聚类分析 方法、步骤。传递闭包法。2.直接聚类法：不求传递闭包，直接从模糊相似矩 阵出发求得聚类图；最大树法；编网法；3.最佳阈值的确定方法4.基于模糊划分的模糊聚类法：模糊C划分；模糊ISODATA方法。,1.模糊关系,练习题,试分别利用模糊传递闭包法、直接聚类法、最大树法和编网法进行模糊分类,
