《第二章非参数统计分析ppt课件.ppt》由会员分享，可在线阅读，更多相关《第二章非参数统计分析ppt课件.ppt（88页珍藏版）》请在三一办公上搜索。
1、16:22,1,第二章单样本非参数检验,16:22,2,思考的要点,各种检验方法的思路 各种检验方法统计量的构造 各种检验方法的应用场合 在SAS与R中如何完成,16:22,3,第一节 符号检验第二节 Cox-Stuart趋势检验 第三节 游程检验第四节 Wilcoxon符号秩检验第五节 正态记分检验第六节 与参数检验相对效率比较,16:22,4,符号检验的统计量为B=得正号的个数。,符号检验。设随机变量X1，Xn是从某个总体X中抽出的简单随机样本。且分布函数F(X)在X=0是连续的。假设检验问题,检验的统计量可以取B。,第一节 符号检验,在原假设为真的条件下，B服从参数为n和0.5的二项分布
2、b(n,0.5)。由于原假设为真时，B应该不太大，也不太小，如果B太大或太小，应该拒绝原假设。,16:22,5,精确的符号检验是指检验的p值是由精确的概率给出的。 我们利用正号和负号的数目，来检验某假设，这是一种最简单的非参数方法。 【例4】联合国人员在世界上71个大城市的生活花费指数(上海是44位，数据为63.5)按自小至大的次序排列如下。,一、精确中位数的符号检验,16:22,6,有人说64应该是这种大城市花费指数的中位数，有人说64顶多是低位数（下四分位数），进行检验。数据如下： 122.4,109.4,105,104.6,104.1,100.6,100,99.3,99.1,98.2,9
3、7.5,95.2,92.8,91.8,90.8,90.3,89.5, 89.4,86.4,86.2,85.7,82.6,81,80.9,79.1,77.9, 77.7,76.8,76.6,76.2,74.5,74.3,73.9,71.7,71.2, 67.7,66.7,66.2,65.4,65.3,65.3,65.3,64.6,63.5, 62.7,60.8,58.2,55.5,55.3,55,54.9,52.7,51.8, 49.9,48.2,47.6,46,45.8,45.2,41.9,38.8,37.7,37.5,36.5, 36.4,32.7,32.7,32.2,29.1,27.8,2
4、7.8,16:22,7,16:22,8,通常在正态总体分布的假设下，关于总体均值的假设检验和区间估计是用与t检验有关的方法进行的。然而，在本例中，总体分布是未知的。为此，首先看该数据的直方图从图中很难说这是什么分布。假定用总体中位数来表示中间位置，这意味着样本点，取大于me的概率应该与取小于me的概率相等。所研究的问题，可以看作是只有两种可能“成功”或“失败”。,16:22,9,符号检验的思路，记成功：X-0大于零，即大于中位数M，记为“+”；失败：X-0小于零，即小于中位数M，记为“-”。令 S+=得正符号的数目 S=得负符号得数目可以知道S+或S 均服从二项分布B（65，0.5）。则可以用
5、来作检验的统计量。其假设为：,16:22,10,关于非参数检验统计量需要说明的问题,在非参数检验中，可以得到两个相互等价的统计量，比如在符号检验中，得负号与得正好的个数，就是一对等价的统计量，因为S+S-=N。那么我们在检验时应该用那个呢？约定选择统计量,16:22,11,16:22,12,该检验R的代码 x-c(122.4,109.4,105,104.6,104.1,100.6,100,99.3,99.1,98.2,97.5,95.2,92.8,91.8,90.8,90.3,89.5, 89.4,86.4,86.2,85.7,82.6,81,80.9,79.1,77.9, 77.7,76.8
6、,76.6,76.2,74.5,74.3,73.9,71.7,71.2, 67.7,66.7,66.2,65.4,65.3,65.3,65.3,64.6,63.5, 62.7,60.8,58.2,55.5,55.3,55,54.9,52.7,51.8, 49.9,48.2,47.6,46,45.8,45.2,41.9,38.8,37.7,37.5,36.5, 36.4,32.7,32.7,32.2,29.1,27.8,27.8)y=sum(sign(x-64)=1)pbinom(71-y,71,0.50),16:22,13,二、大样本的情形,当样本容量足够大，我们可以利用二项分布的正态近似来对
7、该问题进行检验。因为计数统计量在原假设为真时，服从b(n,0.5)。且其均值为0.5n，方差为0.25n。则检验的统计量为,16:22,14,第二节 Cox-Stuart趋势检验,人们经常要看某项发展的趋势但是从图表上很难看出是递增，递减，还是大致持平 【例5】我国自1985年到1996年出口和进口的差额(balance)为(以亿美元为单位) 149.0 119.7 37.7 77.5 66.0 87.4 80.5 43.5 122.2 54.0 167.0 122.2,从这个数字，我们能否说这个差额总的趋势是增长，还是减，还是都不明显呢?下图为该数据的点图从图可以看出，总趋势似乎是增长，但1
8、993年有个低谷；这个低谷能否说明总趋势并不是增长的呢?我们希望能进行检验,16:22,15,16:22,16,三种假设：,怎么进行这些检验呢?可以把每一个观察值和相隔大约n2的另一个观察值配对比较；因此大约有n2个对子然后看增长的对子和减少的对子各有多少来判断总的趋势具体做法为取 和 。这里,16:22,17,在这个例子中n=12，因而c6。这6个对子为(x1,x7)，(x2，x8)，(x3，x9)，(x4，x10)，(x5，xl1)，(x6，x12)。,16:22,18,用每一对的两元素差Di=xi-xi+c的符号来衡量增减。令S+为正Di=xi-xi+c的数目，而令S-为负的Di=xi-
9、xi+c的数。显然当正号太多时，即S+很大时(或S-很小时)，有下降趋势，反之，则有增长趋势在没有趋势的零假设下它们应服从二项分布b(6,0.5)，这里n为对子的数目(不包含差为0的对子)。该检验在某种意义上是符号检验的一个特例。,16:22,19,类似于符号检验，对于上面1，2，3三种检验，分别取检验统计量K=S+,K=S-和K=min(S+,S-)。在本例中，这6个数据对的符号为 5负1正， 所以我们不能拒绝原假设。,16:22,20,【 例6 】天津机场从1995年1月到2003年12月的108个月旅客旅客吞吐量数据如下：,54379 45461 55408 59712 60776 57
10、635 63335 71296 70250 76866 75561 66427 61330 58186 67799 76360 86207 75509 83020 89614 75791 80835 72179 61520 66726 60629 68549 73310 80719 67759 70352 82825 70541 74631 68938 53318 62653 58578 63292 69535 73379 62859 72873 87260 67559 76647 70590 58935 58161 64057 63051 58807 63663 57367 70854 79
11、949 66992 80140 62260 55942 58367 56673 61039 74958 85859 67263 87183 97575 79988 88501 68600 58442 68955 56835 67021 81547 85118 70145 95080 106186 86103 88548 70090 65550 69223 85138 89799 99513 98114 68172 97366 116820 95665 109881 87068 75362 88268 85183 87909 79976 27687 50178 100878 131788 116
12、293 120770 104958 109603讨论是否存在显著的增长趋势。,16:22,21,16:22,22,SPSS无此检验，我们用R完成该检验，代码如下。,x-c(54379,45461,55408,59712,60776,57635,63335,71296,70250,76866,75561,66427,61330,58186,67799,76360,86207,75509,83020,89614,75791,80835,72179,61520,66726,60629,68549,73310,80719,67759,70352,82825,70541,74631,68938,5331
13、8,62653,58578,63292,69535,73379,62859,72873,87260,67559,76647,70590,58935,58161,64057,63051,58807,63663,57367,70854,79949,66992,80140,62260,55942,58367,56673,61039,74958,85859,67263,87183,97575,79988,88501,68600,58442,68955,56835,67021,81547,85118,70145,95080,106186,86103,88548,70090,65550,69223,851
14、38,89799,99513,98114,68172,97366,116820,95665,109881,87068,75362,88268,85183,87909,79976,27687,50178,100878,131788,116293,120770,104958,109603) d=x1:54-x55:108 y=sum(sign(d)=1) pbinom(y,54,0.5) 直接得到p值=0.0019190.05，拒绝无趋势的原假设原假设。,16:22,23,补充：检验的p值,在假设检验中，常常通过检验的p值来决策。 p值为拒绝原假设的最小概率。对于t检验，如果计算出的统计量的值为t
15、0，则左尾检验的p值为概率p(t t0)右尾检验的p值为概率p(t t0)双尾检验的p值为概率p(|t| t0|)。 但是对于非参数检验来说由于有两个等价的统计量，如得正号的个数与得负号的个数之和等于样本容量n；两个总体的秩和等于N（N+1)/2。,16:22,24,比如是左侧检验，如果总体真实的中位数比假设的小，则检验的统计量w+表现出过小， w-表现出大,检验的p值为p( w+w小)，此时用的最小的统计量。对于右侧检验，如果总体真实的中位数比假设的大，则检验的统计量w+表现出过大， w-表现出小。检验的p值为p( w+w大)。实际上 p( w+w大) = p( -w+-w大) = pN(N
16、+1)/2-w+ N(N+1)/2 -w大 = pw-w小 可见检验的统计量用k=min（w+，w-）是合理的。另外双侧检验的p值是单侧的两倍。,16:22,25,游程检验是样本的随机性检验，其用途很广。例如当我们要考察生产中次品出现是随机的，还是成群的，一个时间序列是平稳的还是非平稳的。,第三节 游程检验,16:22,26,从生产线上抽取产品检验，是否应采用频繁抽取小样本的方法。在一个刚刚建成的制造厂内，质检员需要设计一种抽样方法，以保证质量检验的可靠性。生产线上抽取的产品可以分成两类，有瑕疵，无瑕疵。检验费用与受检产品数量有关。一般情况下，有毛病的产品如果是成群出现的，则要频繁抽取小样本，
17、进行检验。如果有毛病的产品是随机产生的，则每天以间隔较长地抽取一个大样本。现随机抽了28件产品，按生产线抽取的顺序排列：0000111111111111110001111111检验瑕疵的产品是随机出现的吗？有瑕疵的产品是随机出现 有瑕疵的产品是成群出现,16:22,27,随机抽取的一个样本，其观察值按某种顺序排列，如果研究所关心的问题是：被有序排列的两种类型符号是否随机排列，则可以建立双侧备择假设组为 H0： 序列是随机的 H1： 序列不是随机的（双侧检验）如果关心的是序列是否具有某种倾向，则应建立单侧备择，假设组为 H0： 序列是随机的 H1: 序列具有混合的倾向（右侧检验，游程过多） H0
18、： 序列是随机的 H1: 序列具有成群的倾向（左侧检验，游程过小）游程：连续出现的具有相同特征的样本点为一个游程。,16:22,28,检验统计量。在H0为真的情况下，两种类型符号出现的可能性相等，其在序列中是交互的。相对于一定的m和n，序列游程的总数应在一个范围内。 若游程的总数过少，表明某一游程的长度过长，意味着有较多的同一符号相连，序列存在成群的倾向； 若游程总数过多，表明游程长度很短，意味着两个符号频繁交替，序列具有混合的倾向。选择的检验统计量为R游程的总数目。,16:22,29,可以证明,则,16:22,30,游程R的分布为，奇数时,关于此可以做如下的考虑,游程R的分布为，偶数时,16
19、:22,31,先在m+n个抽屉里随机选择m个，抽出的抽屉里放入“1”，没有的放入“0”，所有可能基本的基本事件数为：,有,种。,或先在m+n个抽屉里随机选择n个，抽出的抽屉里放入“0”，没有的放入“1”，所有可能基本的基本事件数为：,有,种。,16:22,32,1、必定有k+1个由“1”构成的游程和k个由 “0”构成的游程； 2、或必定有k+1个由“0”构成的游程和k个由 “1”构成的游程。,如果游程数为奇数R=2K1，这意味着：,16:22,33,这就必须在m1个位置中插入K个“隔离元”，使有 “1”有k+1个游程，可以有 种，同样可以在n-1个“0”的n-1个空位上插入K-1个“隔离元”，
20、有 种。共有有利基本事件数 。,16:22,34,在第二种情形下，有 故：,得,同理,16:22,35,16:22,36,【例7】，在我国的工业和商业企业随机抽出22家进行资产负债率行业间的差异比较。有如下资料：这两个行业的负债水平是否相等。 首先，设 “1”为工业，“2”为商业，将两个行业的数据排序，得行业编号得游程： 1 1 1 1 1 2 1 1 1 1 2 2 2 1 1 1 2 2 2 2 2 2,16:22,37,游程检验的菜单选择。,16:22,38,16:22,39,游程检验的结果：共有21个个案，12个小于1.4286，9个大于等于1.4286。游程6个。检验的统计量的值为-
21、2.19，相应的渐近p值=0.029，则拒绝原假设。,16:22,40,【例8】公司委托市场调查公司进行随机抽样调查。为了对调查表的真伪进行判断，市场调查公司按顺序抽取了20份问卷。其中消费者每年消费该公司的产品的花费数据如下表，分析问卷数据是否真实。用游程检验。,16:22,41,检验结果说明p值=0.808，不能拒绝随机数据的原假设。,16:22,42,第四节 单样本的Wilcoxon符号秩检验,一、 Wilcoxon符号秩检验,前面几种推断的方法都只依赖于数据的符号，即方向。没有考虑数据的大小，Wilcoxon符号秩检验是检验关于中位数对称的总体的中位数是否等于某个特定值，检验的假设：,
22、16:22,43,检验的步骤:,1. 计算 ，它们代表这些样本点到 的距离；,2. 把上面的n个绝对值排序，并找出它们的n个秩；如果有相同的样本点，每个点取平均秩(如1，4，4，5的秩为1，2.5，2.5，4)，然后分别将得正号的秩和得负号的秩相加。另,指满足括号里的条件等于1,不满足等于零。,16:22,44,3. 双 在零假设下， 和 应差不多因而，当其中之一非常小时，应怀疑零假设；取检验统计量T=min( ， )；,16:22,45,统计量的均值和方差如下：,16:22,46,5. 根据得到的T值，查Wilcoxon符号秩检验的分布表以得到在零假设下p值如果n很大要用正态近似：得到一个与
23、T有关的正态随机变量Z的值，再查表得P值或直接用计算机得到P值。,16:22,47,Wilcoxon符号秩检验表,16:22,48,【例9】 欧洲10个城镇每人每年平均消费酒类相当于纯酒精数（单位：升）。 4.12 5.81 7.63 9.74 10.39 11.92 12.32 12.89 13.54 14.45。人们普遍认为其中位数为8。检验该假设。 x-c(4.12,5.81,7.63,9.74,10.39,11.92,12.32,12.89,13.54,14.45) wilcox.test(x-8),16:22,49,Wilcoxon signed rank testdata: x -
24、 8 V = 46, p-value = 0.06445alternative hypothesis: true location is not equal to 0,16:22,50,【例10】为了了解垃圾邮件对大型公司决策层工作的影响程度，某个网站收集了19家大型公司的CEO每天收到的垃圾邮件件数，得到如下数据： 310,350,370,375,385,400,415,425,440,195, 325,295,250,340,295,365,375,360,385 检验收到的垃圾邮件的数量的中间位置是否超过了320封。,16:22,51,x-c(310,350,370,375,385,40
25、0,415,425,440,195, 325,295,250,340,295,365,375,360,385) wilcox.test(x-320),data: x - 320 V = 146, p-value = 0.04207alternative hypothesis: true location is not equal to 0,16:22,52,注 Holdges-Lemmann 估计量,定义2.1 假设X1, X2, Xn为简单随机样本，计算任意两个样本点的平均数，从而得到一个样本长度为n(n+1)/2的新的数据，这组数据称为Walsh平均值，即,16:22,53,定理 由定义2
26、.1，Wilcoxon符号秩统计量W+可以表示为,即W+是Walsh平均值中符号为正的个数。如果中心是，则定义,即W+()是检验,的统计量。,16:22,54,定义2.2 假定假设X1, X2, Xn为F(X)的简单随机样本，如果F(X)为对称，则定义Walsh中位数如下：,作为的Holdges-Lemmann 估计量。,16:22,55,从应用的角度看，这种中位数的计算对于样本容量非常小时，更为合理。比如X11季节调整中，季节变动和不规则变动相对数的平均值，就是计算的Holdges-Lemmann 中位数估计量。 补充： X11季节调整。,16:22,56,定理 假定假设X1, X2, Xn
27、为F(X)的简单随机样本，如果F(X)为对称，则定义Walsh平均，记为 WA(1)，WA(），WA（）,则,其中,16:22,57,x-c(4.12,5.81,7.63,9.74,10.39,11.92,12.32,12.89,13.54,14.45)walsh=NULLi-c(1:10)for(i in 1:10)for(j in i:10)walsh=c(walsh,(xi+xj)/2)walsh=sort(walsh)qsignrank(0.025,10),16:22,58,为了了解垃圾邮件对大型公司决策层工作的影响程度，某个网站收集了19家大型公司的CEO影响每天收到的垃圾邮件件数，
28、得到如下数据： 310 350 370 375 385 400 415 425 440 195 325 295 250 340 295 365 375 360 385从平均的意义看，收到的垃圾邮件的数量的中间位置是否超过了320封。,16:22,59,data a;input x1-x19;cards; 310 350 370 375 385 400 415 425 440 195 325 295 250 340 295 365 375 360 385 ;%macro PGI;data b;set a;%do i=1 %to 19;%do j=,16:22,60,proc print data
29、=b;run;proc sort data=b out=b2;by walsh;proc print data=b2;run;data b3;set b2;n+1;l=int(19*20/4-1.96*(19*20*39/24)*0.5)+1;if n=95 then output;if n=96 then output;else delete;proc print data=b3;run;,16:22,61,Obs walsh n l 1 355.0 95 47 2 357.5 96 47,16:22,62,第五节 正态得分检验,(一)思想 在各种各样的秩检验中，检验的统计量为秩的函数，而秩
30、本身在没有结时是有限个自然数的排列，它的分布是均匀分布。人们自然会用其他分布的样本。自然我们会想到正态分布。正态记分检验的基本思想就是把升幂排列的秩Ri用升幂排列的正态分位点来替代。我们在Wilcoxon符号检验的基础上，建立线性符号秩统计量。,16:22,63,正态记分检验的基本思想就是：,把升幂排列的秩用升幂排列的正态分位点来替代。,16:22,64,例如Wilcoxon统计量为,例如正态记分检验统计量为,16:22,65,正态积分检验的统计量为：,16:22,66,(二) 检验,检验的假设为：,16:22,67,则检验的统计量为,16:22,68,例、下面的数据是亚洲10个国家的新生儿死
31、亡率（） 33 36 31 15 9 6 4 65 77 88,16:22,69,16:22,70,16:22,71,接受原假设。,16:22,72,假定表示犯第一类错误的概率，而表示犯第二类错误的概率（检验的势为1- ）。对于任意的检验T，理论上总可以找到样本容量n，使该检验满足固定的和。显然为了达到这个要求，需要样本容量大的检验就不如需要样本容量小的检验效率高。为了达到同样的和，检验T1需要n1个样本点，检验T2需要n2个样本点.我们用n1/n2来定义T2相对于T1的效率。当然这个比值越大,T2需要的样本容量越小， T2的效率越高。定义渐近相对效率ARE为,16:22,73,第六节 单个总
32、体渐近相对效率的比较,假定假设X1, X2, Xn为F(X)的简单随机样本，我们来讨论符号检验，Wilcoxon符号秩检验和t检验三者的渐近相对效率。我们需要检验,前面我们已经学习了关于线性符号秩统计量，在一些条件成立下，线性符号秩统计量有计算功效的公式。,16:22,74,1 线性符号秩统计量,一类线性符号秩统计量为,假定,这里 是非降非负平方可积函数。,16:22,75,Wilcoxon线性符号秩统计量,16:22,76,符号检验的统计量,16:22,77,可以证明效力因子,其中,F(x)是总体的分布函数，f是总体的密度函数。,16:22,78,利用这个结论我们可以计算W+检验的功效,16
33、:22,79,16:22,80,16:22,81,类似还可以计算其他检验的效力因子。,16:22,82,2 各种统计量渐近相对效率的比较,16:22,83,渐近相对效率的比较nt/nw(或B),16:22,84,例 假定假设X1, X2, Xn来自一个污染的正态分布，该污染的正态分布的分布函数为,16:22,85,16:22,86,16:22,87,从上面的计算可知，在正态分布的假定下，t检验与Wilcoxon的符号秩检验的效率差别不大。但是如果总体是一个污染的正态分布，从0.01开始，Wilcoxon的符号秩检验的效率就比t检验好。,16:22,88,最后一节告诉我们非参数统计分析的重要性，当分布非正态时，大多数情况下，非参数估计更有效率。,
