《经典回归分析》PPT课件.ppt

上传人:小飞机 文档编号:5567735 上传时间:2023-07-28 格式:PPT 页数:126 大小:10.01MB
返回 下载 相关 举报
《经典回归分析》PPT课件.ppt_第1页
第1页 / 共126页
《经典回归分析》PPT课件.ppt_第2页
第2页 / 共126页
《经典回归分析》PPT课件.ppt_第3页
第3页 / 共126页
《经典回归分析》PPT课件.ppt_第4页
第4页 / 共126页
《经典回归分析》PPT课件.ppt_第5页
第5页 / 共126页
点击查看更多>>
资源描述

《《经典回归分析》PPT课件.ppt》由会员分享,可在线阅读,更多相关《《经典回归分析》PPT课件.ppt(126页珍藏版)》请在三一办公上搜索。

1、主讲教师:娄锋E-mail:,中级计量经济学,课名:中级计量经济学 1998年7月教育部高等学校经济学科教学指导委员会将计量经济学列为我国大学经济类学生的8门必修课之一。课时:54学时应具备的基础知识:1经济学(政治经济学,微宏观经济学)2.经济统计学(经济数据的收集、处理和应用)3概率论与数理统计(概率分布,联合分布,参数估计,假设检验,方差分析,回归分析等等)4高等代数(矩阵代数,向量空间,特征根与特征向量,二次型等等),本课程的参考书和文献:,1.Greene,W.H.,Econometric Analysis,Prentice-Hall,Inc.1993.2.MICHAEL D.INT

2、RILIGATOR RONALD G.BODKIN CHENG HSIAO(萧政),ECONOMETRIC MODELS,TECHNIQUES,AND APPLICATIONS.PRENTICE HALL,INC.1996.3.Cheng Hsiao(萧政),Analysis of Panel Data,Cambridge University Press,Cambridge,20034.J.Davidson,Econometric Theory,Blackwell,2000.5.F.Perachi,Econometrics,John Wiley and Sons Ltd.2000.6.顾岚主

3、译,时间序列分析,预测与控制,中国统计出版社;1997。(Box G.E.P and Jenkins G.M.,Time Series Analysis,Forecasting and Control,Holden-day Inc.1966,1967,1976,1994.)。,7.顾岚编著,时间序列分析在经济中的应用,中国统计出版社;1998。8.王耀东,张德远,经济时间序列分析,上海财经大学出版社,1996。9.Walter Enders,Applied Econometric Time Series,John Wiley and Sons Inc.,2004.10.韩德瑞,秦朵译,动态经济

4、计量学,(Dynamic econometrics,Hendry D.F.著),上海人民出版社,1998.4.11.陆懋祖,高等时间序列经济计量学,上海人民出版社,1999年8月。,12.张世英,协整理论与波动模型,清华大学出版社,2004。13.刘明志译,James D.Hamilton著,时间序列分析,中国社会科学出版社,1999年12月,(Time Series Analysis,1994.)14.李子奈,叶阿忠高等计量经济学北京:清华大学出版社,200015.张晓峒主编计量经济学分析.经济科学出版社,2006。16.谢识予,朱弘鑫.高级计量经济学.上海:复旦大学出版社,2005.17.

5、金赛男.高级计量经济学.北京:北京大学出版社,2007.,18.J.M.Wooldridge Introductory Econometrics:A Modern Approach 2000年中译本 J.M.伍德里奇计量经济学导论现代观点 中国人民大学出版社 2003年3月。19.李子奈,计量经济学(第三版).北京:高等教育出版社,2005.20.孙敬水主编,中级计量经济学.上海财经大学出版社,2008.21.张晓峒主编,经济计量学(第2、3版).南开大学出版社,2005。22.庞皓主编,计量经济学(第三版).成都:西南财经大学出版社,2006.23.高铁梅.计量学经济分析方法与建模应用及实例

6、.天津:北京:清华大学出版社,2006.24.张晓峒主编,EViews使用指南与案例.北京:机械工业出版社,2007.,25.,Basic Econometrics,3th Edition,1995.中译本 古扎拉蒂计量经济学上、下册.中国人民大学出版社,2000年3月.林少宫译。庞皓,程从云译,基础经济计量学(Gujarati D.,Basic Econometrics,第1版McGRAW-HILL KOGAKUSHA LTD.,1978),科学技术文献出版社重庆分社,1986年5月。26.钱小军等译,计量经济模型与经济预测,(R S Pindyck and D L Rubinfeld,Ec

7、onometric models and economic forecasts,McGraw-Hill Companies Inc.),机械工业出版社,1999.11。27.王文博.计量经济学.北京:西安交通大学出版社,2004.28.张定胜,计量经济学.武汉大学出版社,2000.29.耿修林等,计量经济学.科学出版社,2004.30.孙敬水等,计量经济学.清华大学出版社,2004,经济计量学常用软件:,1.EViews(Econometric Views)V.2.0,3.0,4.0,5.0,5.1,6.0,6.2美国QMS公司的软件产品).因为EViews是计量经济学专用软件,功能最齐全,操

8、作最简便,输出格式最美观,既可以选单式操作又可以自编程序。2.TSP(Time Series Processor)V.4.3(Palo Alto,California,USA)3.PcGive(Personal Computer,General Instrumental Variable Estimation)V.8.0,9.0,10.0,(J.A.Doomik and D.F.Hendry)4.RATS(时间序列分析,协整分析,ARCH,GARCH模型,画图)6.Mathematica V.3.0,3.1,4.0(处理各种数学运算)7.S-PLUS V.5.0(包括回归分析、方差分析、判别分

9、析、聚类分析、试验设计、非参数方法、生存分析、时间序列分析、谱分析、投影寻踪等。)8.Ox V.1.11,(多用于蒙特卡罗模拟)9.GAUSS(多用于蒙特卡罗模拟)(Kent,Washengton,USA)10.STATA V.9和SPSS(截面数据),SAS(主要用于一元和多元统计分析),相关数据网站:,经济计量学的主要刊物:,1.Econometrica*,双月刊,美国经济计量学会主办,1933年创刊。2.Journal of Econometrics*,双月刊,瑞士出版,1973年创刊。3.Journal of Applied Econometrics*,双月刊,美国John Wiley

10、&Sons 出版社,1986年创刊。4.Econometric Theory,每年五期,英国剑桥大学出版社,1985年创刊。5.Oxford Bulletin of Econometrics and Statistics*,季刊,牛津大学经济与统计研究所主办,1936年创刊。6.Journal of the American Statistical Association*,季刊,美国统计协会主办,1888年创刊。7.The Japanese Economic Review,季刊,日本经济与计量经济协会主办,1950年创刊。8.数量经济技术经济研究,月刊,中国数量经济学会主办。9.经济研究,月

11、刊,中国社会科学院经济研究所主办。,经济计量学的研究内容与目的主要包括如下三个方面:,1定量描述与分析经济活动,验证经济理论。包括描述宏观、微观经济问题。2寻找经济规律、建立经济计量模型,为制定经济政策服务。通过计量模型得到参数(边际系数,弹性系数,技术系数,比率,速率等)的可靠估计值,从而为制定政策,实施宏观调控提供依据。3做经济预测。这是经济计量学利用模型所要解决的最重要内容,也是最困难的内容。经济计量学的发展史就是谋求对经济变量做出更精确预测的发展史。这要求(1)变量选择要准确,(2)模型形式要合理。,第一篇 经典单方程计量经济学模型理论与方法,Theory and Methodolog

12、y of Classical Single-Equation Econometric Model,第一章 经典单方程计量经济学模型:一元线性回归模型,回归分析概述 一元线性回归模型的参数估计 一元线性回归模型检验一元线性回归模型预测实例,1.1 回归分析概述,一、变量间的关系及回归分析的基本概念,二、总体回归函数,三、随机扰动项,四、样本回归函数(SRF),1.1 回归分析概述,(1)确定性关系或函数关系:研究的是确定现象非随机变量间的关系。(2)统计依赖或相关关系:研究的是非确定现象随机变量间的关系。,一、变量间的关系及回归分析的基本概念,1、变量间的关系 经济变量之间的关系,大体可分为两类

13、:,对变量间统计依赖关系的考察主要是通过相关分析(correlation analysis)或回归分析(regression analysis)来完成的:,例如:函数关系:销售额=销售量价格(价格一定),统计依赖关系/统计相关关系:消费=f(可支配收入),和 都是相互对称的随机变量;样本相关系数是总体相关系数的样本估计值,由于抽样波动,样本相关系数是个随机变量,其统计显著性有待检验;相关系数只能反映线性相关程度,不能确定因果 关系;多个变量的线性相关程度:复相关系数,偏相关系数.计量经济学关心:变量间的因果关系及隐藏在随机性后面的统计规律性,这有赖于回归分析方法.,使用相关系数时应注意,回归分

14、析(regression analysis)是研究一个变量关于另一个(些)变量的具体依赖关系的计算方法和理论。其用意:在于通过后者的已知或设定值,去估计和(或)预测前者的(总体)均值。这里:前一个变量被称为被解释变量(Explained Variable)或应变量(Dependent Variable),后一个(些)变量被称为解释变量(Explanatory Variable)或自变量(Independent Variable)。,2、回归分析的基本概念,回归分析构成计量经济学的方法论基础,其主要内容包括:(1)根据样本观察值对经济计量模型参数进行估计,求得回归方程;(2)对回归方程、参数估计

15、值进行显著性检验;(3)利用回归方程进行分析、评价及预测。,由于变量间关系的随机性,回归分析关心的是根据解释变量的已知或给定值,考察被解释变量的总体均值,即当解释变量取某个确定值时,与之统计相关的被解释变量所有可能出现的对应值的平均值。,例2.1:一个假想的社区有100户家庭组成,要研究该社区每月家庭消费支出Y与每月家庭可支配收入X的关系。即如果知道了家庭的月收入,能否预测该社区家庭的平均月消费支出水平。,二、总体回归函数,为达到此目的,将该100户家庭划分为组内收入差不多的10组,以分析每一收入组的家庭消费支出。,(1)由于不确定因素的影响,对同一收入水平X,不同家庭的消费支出不完全相同;(

16、2)但由于调查的完备性,给定收入水平X的消费支出Y的分布是确定的,即以X的给定值为条件的Y的条件分布(Conditional distribution)是已知的,如:P(Y=561|X=800)=1/4。,进一步,给定收入X的值Xi,可得消费支出Y的条件均值(conditional mean)或条件期望(conditional expectation):E(Y|X=Xi),该例中:E(Y|X=800)=561,分析:,描出散点图发现:随着收入的增加,消费“平均地说”也在增加,且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。,这样,在给定解释变量Xi条件下被解释变量Y的期望轨迹称

17、为总体回归线(population regression line),或更一般地称为总体回归曲线(population regression curve)。,称为(双变量)总体回归函数(population regression function,PRF)。,相应的函数:,含义:回归函数(PRF)说明被解释变量Y的平均状态(总体条件期望)随解释变量X变化的规律。,函数形式:总体回归函数表明被解释变量Y的平均状态(总体条件期望)随解释变量X变化的规律。至于具体的函数形式,是由所考察总体固有的特征来决定的。由于实践中总体往往无法全部考察到,因此总体回归函数形式的选择就是一个经验方面的问题,这时经济

18、学等相关学科的理论就显得很重要。可以是线性或非线性的。,例1.1中,将居民消费支出看成是其可支配收入的线性函数时:,为一线性函数。其中,0,1是未知参数,称为回归系数(regression coefficients)。,三、随机扰动项,总体回归函数说明:在给定的收入水平Xi下,该社区家庭平均的消费支出水平。但对某一个别的家庭,其消费支出可能与该平均水平有偏差。,称i为观察值Yi围绕它的期望值E(Y|Xi)的离差(deviation)(可正可负),是一个不可观测的随机变量,又称为随机干扰项(stochastic disturbance)或随机误差项(stochastic error)。,记,例1

19、.1中,个别家庭的消费支出为:,(*)式称为总体回归函数(方程)PRF的随机设定形式。表明被解释变量除了受解释变量的系统性影响外,还受其他因素的随机性影响。,(1)该收入水平下所有家庭的平均消费支出E(Y|Xi),称为系统性(systematic)或确定性(deterministic)部分。(2)其他随机或非确定性(nonsystematic)部分i。,即,给定收入水平Xi,个别家庭的支出可表示为两部分之和:,(*),由于方程中引入了随机项,成为计量经济学模型,因此也称为总体回归模型。,在总体回归函数中引入随机干扰项,主要有以下几方面的原因:(1)代表众多细小影响因素。有一些影响因素己经被认识

20、,而且其数据也可以收集到,但它们对被解释变量的影响却是细小的。考虑到模型的简洁性,以及取得诸多变量数据可能带来的较大成本,建模时往往省掉这些细小变量,而将它们的影响续合到随机千扰项中。(2)变量的内在随机性。即使模型没有设定误差,也不存在数据观测误差,由于某些变量所固有的内在随机性,也会对被解释变量产生随机性影响。这种影响只能被归入到随机干扰项中。(3)代表未知的影响因素。由于对所考察总体认识上的非完备性,许多未知的影响因素还无法引入模型,因此,只能用随机干扰项代表这些未知的影响因素。(4)代表残缺数据。即便所有的影响变量都能被包括在模型中,也会有某些变量的数据无法取得。例如,经济理论指出,居

21、民消费支出除受可支配收入的影响外,还受财富拥有量的影响,但后者在实践中往往是无法收集到的。这时,模型中不得不省略这一变量,而将其归入随机干扰项。,(5)代表数据观测误差。由于某些主客观的原因,在取得观测数据时,往往存在测量误差,这些观测误差也被归入随机干扰项。(6)代表模型设定误差。由于经济现象的复杂性,模型的真实函数形式往往是未知的,因此,实际设定的模型可能与真实的模型有偏差。随机干扰项包含了这种模型设定误差。总之,随机干扰项具有非常丰富的内容,在计量经济学模型的建立中起着重要的作用。如果进一步分析,可以发现,当随机干扰项仅包含上述(1)和(2)时,称之为“原生”的随机干扰,是模型所固有的;

22、当随机干扰项包含上述(3),(4),(5),(6)时,称之为衍生的随机误差,是在模型设定过程中产生的;是可以避免的。,四、样本回归函数(SRF),问题:能从一次抽样中获得总体的近似的信息吗?如果可以,如何从抽样中获得总体的近似信息?,问:能否从该样本估计总体回归函数PRF?,例1.2:在例1.1的总体中有如下一个样本,,总体的信息往往无法掌握,现实的情况只能是在一次观测中得到总体的一个样本,再通过样本的信息来估计总体回归函数。,核样本的散点图(scatter diagram):,样本散点图近似于一条直线,画一条直线以尽好地拟合该散点图,由于样本取自总体,可以该线近似地代表总体回归线。该线称为样

23、本回归线(sample regression lines)。,记样本回归线的函数形式为:,称为样本回归函数(sample regression function,SRF)。,这里将样本回归线看成总体回归线的近似替代,则,注意:,样本回归函数的随机形式/样本回归模型:,同样地,样本回归函数也有如下的随机形式:,由于方程中引入了随机项,成为计量经济模型,因此也称为样本回归模型(sample regression model)。,回归分析的主要目的:根据样本回归函数SRF,估计总体回归函数PRF。,注意:这里PRF可能永远无法知道。,即,根据,估计,1.2 一元线性回归模型的参数估计,一、一元线性回

24、归模型的基本假设 二、参数的普通最小二乘估计(OLS)三、参数估计的最大或然法(ML)四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计,单方程计量经济学模型分为两大类:线性模型和非线性模型,线性模型中,变量之间的关系呈线性关系非线性模型中,变量之间的关系呈非线性关系,一元线性回归模型:只有一个解释变量,n个样本观测点:,i=1,2,n,Y为被解释变量,X为解释变量,0与1为待估参数,为随机干扰项,回归分析的主要目的是要通过样本回归函数(模型)SRF尽可能准确地估计总体回归函数(模型)PRF。,估计方法有多种,其种最广泛使用的是普通最小二乘法(ordinary leas

25、t squares,OLS)。,为保证参数估计量具有良好的性质(可靠),通常对模型提出若干基本假设。,注:实际这些假设与所采用的估计方法紧密相关。,一、线性回归模型的基本假设,假设1、回归模型是正确设定的。含两方面有内容:(1)模型选择了正确的变量;(2)模型选择了正确的函数形式假设1满足时,称为模型没有设定偏误(Specification error),否则就会出现模型的设定偏误,后面章节我们将会详细讨论模型的设定偏误问题。假设2、解释变量X是确定性变量,在重复抽样中取固定值。,假设3、解释变量X在所抽取的样本中具有变异性,但随着样本容量的无限增加,解释变量X的样本方差趋于一个非零的有限常数

26、,即该假设旨在排除时间序列数据出现持续上升或下降的变量作为解释变量,因为这类数据不仅使大样本统计推断变得无效,往往会产生伪回归问题(Spurious regression problem)。关于伪回归问题,我们也将在后面进行讨论。,假设4、随机误差项具有零均值、同方差和不序列相关性:,需要说明的是:当(1)成立时,根据期望迭代法则(law of iterated expectation)一定有如下非条件零均值性质:,假设5、随机误差项与解释变量X之间不相关:假设6、服从零均值、同方差的正态分布,以上假设也称为线性回归模型的经典假设(calssical assumption),满足该假设的线性回

27、归模型,也称为经典线性回归模型(Classical Linear Regression Model,CLRM)。而前四个假设也被专门称为高斯马尔可夫假设(Gauss-Markov assumption),这些假设能够保证下节介绍的估计方法具有良好的效果。,在实际建立模型的过程中,除了随机误差项的正态性假设外,对模型是否满足其他假设都要进行检验。这就是建立计量经济学模型步骤中计量经济学检验的任务。对于随机误差项的正态性假设,根据中心极限定理,如果仅包括源生性的随机干扰,当样本容量趋于无穷大时,都是满足的。如果包括衍生的随机误差,即使样本容量趋于无穷大,正态性假设也经常是不满足的。但是在初、中级教

28、材中,一般将它忽略。,二、参数的普通最小二乘估计(OLS),给定一组样本观测值(Xi,Yi)(i=1,2,n)要求样本回归函数尽可能好地拟合这组值.常见的估计方法有三种:普通最小二乘法(OLS)、最大似然法(ML)与矩估计法(MM)。普通最小二乘法(Ordinary least squares,OLS)给出的判断标准是:二者之差的平方和,最小。,方程组(*)称为正规方程组(normal equations)。,记,上述参数估计量可以写成:,称为OLS估计量的离差形式(deviation form)。在计量经济学中往往以小写字母表示对均值的离差。由于参数的估计结果是通过最小二乘法得到的,故称为普

29、通最小二乘估计量(ordinary least squares estimators)。,顺便指出,记,则有,可得,(*)式也称为样本回归函数的离差形式。,(*),三、参数估计的最大似然法(ML),最大似然法(Maximum Likelihood,简称ML),也称最大或然法,是不同于最小二乘法的另一种参数估计方法,是从最大或然原理出发发展起来的其它估计方法的基础。基本原理:对于最大似然法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。,在满足基本假设条件下,对一元线性回归模型:,随机抽取n组样本观测值(Xi,Yi)(i=1,2,n)。,

30、那么Yi服从如下的正态分布:,于是,Y的概率函数为,(i=1,2,n),假如模型的参数估计量已经求得,为,因为Yi是相互独立的,所以的所有样本观测值的联合概率,也即或然函数(likelihood function)为:,将该或然函数极大化,即可求得到模型参数的极大或然估计量。,由于或然函数的极大化与或然函数的对数的极大化是等价的,所以,取对数或然函数如下:,解得模型的参数估计量为:,可见,在满足一系列基本假设的情况下,模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。,例:在上述家庭可支配收入-消费支出例中,对于所抽出的一组样本数,参数估计的计算可通过下面的表进行。,因此,由该样本估计

31、的回归方程为:,三、参数估计的矩法(MM),普通最小二乘法是通过得到一个关于参数估计值的正规方程组并对它进行求解而完成的。正规方程组可以通过矩估计(Method of Moment,MM)的思想来导出。矩估计的基本原理是用相应的样本矩来估计总体矩。,四、最小二乘估计量的性质,当回归模型的随机项 满足最小二乘法的假定条件时,我们已利用样本观测值和最小二乘法得到模型中两个回归系数 的估计量。这种估计量只是利用一组样本观测值并令 最小的情况下给出的。由于抽样是随机的,不同的样本可得到不同的估计量,因此 均为随机变量,并具有一定的概率分布。为了对估计量进行显著性检验,需考察参数估计量的统计性质。,估计

32、量的统计性质,可从如下几个方面考察其优劣性:(1)线性性,即它是否是另一随机变量的线性函数,即结果能被样本数据线性表出;(2)无偏性,即它的均值或期望值是否等于总体的真实值;,无偏性,(3)有效性,即它是否在所有线性无偏估计量中具有最小方差。,(4)渐近无偏性,即样本容量趋于无穷大时,是否它的均值序列趋于总体真值;(5)一致性,即样本容量趋于无穷大时,它是否依概率收敛于总体的真值;(6)渐近有效性,即样本容量趋于无穷大时,是否它在所有的一致估计量中具有最小的渐近方差。,前三个准则也称作估计量的小样本性质(small-sample properties),因为一旦某估计量具有该类性质,它是不以样

33、本的大小而改变的。拥有这类性质的估计量称为最佳线性无偏估计量(best liner unbiased estimator,BLUE)。当然,在有限样本情况下,有时很难找到最佳线性无偏估计量,这时就需要考察样本容量无限增大时估计量的渐进性质。后三个准则称为估计量的无限样本性质或大样本渐近性质(large-sample asymptotic properties)。即如果在有限样本情况下不能满足估计的准则,则应扩大样本容量,考察参数估计量的大样本性质。,证:,易知,故,同样地,容易得出,(2)证明最小方差性,其中,不失一般性,令:ci=ki+di,di为不全为零的常数,于是,由以上的分析可以看出,

34、在古典假定下,OLS估计式 是参数 的最佳线性无偏估计式(BLUE),这一结论称为高斯马尔可夫定理(Gauss-Markov theorem)。,由于最小二乘估计量拥有一个“好”的估计量所应具备的小样本特性,它自然也拥有大样本特性。,五、参数估计量的概率分布及随机干扰项方差的估计,i,i,i,2、随机误差项的方差2的估计,由于随机项i不可观测,只能从i的估计残差ei出发,对总体方差进行估计。,2又称为总体方差。,可以证明,2的最小二乘估计量为,它是关于2的无偏估计量。,在最大或然估计法中:,因此,对照上式,2的最大或然估计量不具无偏性,但却具有一致性。,1.4 一元线性回归模型的统计检验Sta

35、tistical Test of Simple Linear Regression Model,一、拟合优度检验 二、变量的显著性检验 三、参数的置信区间,说 明,回归分析是要通过样本所估计的参数来代替总体的真实参数,或者说是用样本回归线代替总体回归线。尽管从统计性质上已知,如果有足够多的重复 抽样,参数的估计值的期望(均值)就等于其总体的参数真值,但在一次抽样中,估计值不一定就等于该真值。那么,在一次抽样中,参数的估计值与真值的差异有多大,是否显著,这就需要进一步进行统计检验。主要包括拟合优度检验、变量的显著性检验及参数的区间估计。,一、拟合优度检验Goodness of Fit,Coeff

36、icient of Determination,1、回答一个问题,拟合优度检验:对样本回归直线与样本观测值之间拟合程度的检验。问题:采用普通最小二乘估计方法,已经保证了模型最好地拟合了样本观测值,为什么还要检验拟合程度?,1、总离差平方和的分解,已知由一组样本观测值(Xi,Yi),i=1,2,n得到如下样本回归直线,总离差平方和的分解:,Y的i个观测值与样本均值的离差,由回归直线解释的部分,回归直线不能解释的部分,离差分解为两部分之和,未被解释部分,被解释部分,对于所有样本点,则需考虑离差的平方和:,因而有:,记,总体平方和(Total Sum of Squares),回归平方和(Explai

37、ned Sum of Squares),残差平方和(Residual Sum of Squares),TSS=ESS+RSS,Y的观测值围绕其均值的总离差(total variation)可分解为两部分:一部分来自回归线(ESS),另一部分则来自随机因素(RSS)。,在给定样本中,TSS不变,如果实际观测点离样本回归线越近,则ESS在TSS中占的比重越大,因此 拟合优度:回归平方和ESS/Y的总离差TSS,3、可决系数R2统计量,是一个非负的统计量。取值范围:0,1越接近1,说明实际观测点离回归线越近,拟合优度越高。随着抽样的不同而不同。为此,对可决系数的统计可靠性也应进行检验,这将在第2章中

38、进行。,二、变量的显著性检验 Testing Significance of Variable,说明,在一元线性模型中,变量的显著性检验就是判断X是否对Y具有显著的线性性影响。变量的显著性检验所应用的方法是数理统计学中的假设检验。通过检验变量的参数真值是否为零来实现显著性检验。,1、假设检验(Hypothesis Testing),所谓假设检验,就是事先对总体参数或总体分布形式作出一个假设,然后利用样本信息来判断原假设是否合理,即判断样本信息与原假设是否有显著差异,从而决定是否接受或否定原假设。假设检验采用的逻辑推理方法是反证法。先假定原假设正确,然后根据样本信息,观察由此假设而导致的结果是否

39、合理,从而判断是否接受原假设。判断结果合理与否,是基于“小概率事件不易发生”这一原理的。,2、变量的显著性检验t检验,用2的估计量代替,构造t统计量,对总体参数提出假设:H0:1=0,H1:10,带入1=0,由样本计算t统计量值;给定显著性水平(level of significance),查t分布表得临界值(critical value)t/2(n-2);比较,判断:若|t|t/2(n-2),则以(1)的置信度(confidence coefficient)拒绝H0,接受H1;若|t|t/2(n-2),则以(1)的置信度不拒绝H0。具体步骤如下:,检验步骤:,(1)对总体参数提出假设 H0:

40、1=0,H1:10,(2)以原假设H0构造t统计量,并由样本计算其值,(3)给定显著性水平,查t分布表,得临界值t/2(n-2),(4)比较,判断 若|t|t/2(n-2),则拒绝H0,接受H1;若|t|t/2(n-2),则拒绝H1,接受H0;,3、关于常数项的显著性检验,T检验同样可以进行。一般不以t检验决定常数项是否保留在模型中,而是从经济意义方面分析回归线是否应该通过原点。,对于一元线性回归方程中的0,可构造如下t统计量进行显著性检验:,例:在上述收入-消费支出例中,首先计算2的估计值,t统计量的计算结果分别为:,给定显著性水平=0.05,查t分布表得临界值 t 0.05/2(8)=2.

41、306|t1|2.306,说明家庭可支配收入在95%的置信度下显著,即是消费支出的主要解释变量;|t2|2.306,表明在95%的置信度下,无法拒绝截距项为零的假设。,显著性检验除t检验外,我们还会经常用到Z检,已知:,三、参数的置信区间Confidence Interval of Parameter,1、概念,回归分析希望通过样本得到的参数估计量能够代替总体参数。假设检验可以通过一次抽样的结果检验总体参数的可靠性(例如是否为零),但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。要判断样本参数的估计值在多大程度上“近似”地替代总体参数的真值,需要通过构造一个以样本参数的估计

42、值为中心的“区间”,来考察它以多大的可能性(概率)包含着真实的参数值。这种方法就是参数检验的置信区间估计。,如果存在这样一个区间,称之为置信区间;1-称为置信系数(置信度)(confidence coefficient),称为显著性水平;置信区间的端点称为置信限(confidence limit)。,一元线性模型中,i(i=1,2)的置信区间:,在变量的显著性检验中已经知道:,意味着,如果给定置信度(1-),从分布表中查得自由度为(n-2)的临界值,那么t值处在(-t/2,t/2)的概率是(1-)。表示为:,即,于是得到:(1-)的置信度下,i的置信区间是,在上述收入-消费支出例题中,如果给定

43、=0.01,查表得:,由于,于是,1、0的置信区间分别为:(0.6056,0.7344)(-6.719,291.52),显然,在该例题中,我们对结果的正确陈述应该是:边际消费倾向1是以99%的置信度处于以0.670为中心的区间(0.6056,0.7344)中。思考:边际消费倾向等于0.670的置信度是多少?边际消费倾向以100%的置信度处于什么区间?,由于置信区间一定程度地给出了样本参数估计值与总体参数真值的“接近”程度,因此置信区间越小越好。要缩小置信区间,需要增大样本容量n。因为在同样的置信水平下,n越大,t分布表中的临界值越小;同时,增大样本容量,还可使样本参数估计量的标准差减小;提高模

44、型的拟合优度。因为样本参数估计量的标准差与残差平方和呈正比,模型拟合优度越高,残差平方和越小。,1.5 一元线性回归分析的应用:预测问题,一、预测值条件均值或个值的一个无偏估计二、总体条件均值与个值预测值的置信区间,对于一元线性回归模型,给定样本以外的解释变量的观测值X0,可以得到被解释变量的预测值0,可以此作为其条件均值E(Y|X=X0)或个别值Y0的一个近似估计。,严格地说,这只是被解释变量的预测值的估计值,而不是预测值。原因:参数估计量不确定;随机项的影响。所以,我们得到的仅是预测值的一个估计值,预测值仅以某一个置信度处于以该估计值为中心的一个区间中。预测在很大程度上说是一个区间估计问题

45、。,说 明,一、预测值是条件均值或个值的一个无偏估计,1、0是条件均值E(Y|X=X0)的无偏估计,对总体回归函数E(Y|X=X0)=0+1X,X=X0时 E(Y|X=X0)=0+1X0,可见,0是条件均值E(Y|X=X0)的无偏估计。,2、0是个值Y0的无偏估计,对总体回归模型Y=0+1X+,当X=X0时,可见,0是个值Y0的无偏估计。,二、总体条件均值与个值预测值的置信区间,1、总体条件均值预测值的置信区间,由于,于是,可以证明,证明如下:,因此,故,其中,于是,在1-的置信度下,总体均值E(Y|X0)的置信区间为,2、总体个别值预测值的预测区间,由 Y0=0+1X0+知:,于是,式中:,

46、从而在1-的置信度下,Y0的置信区间为,在上述收入-消费支出例中,得到的样本回归函数为,则在 X0=1000处,0=103.172+0.7771000=673.84,而,因此,总体均值E(Y|X=1000)的95%的置信区间为:61.05 E(Y|X=1000)673.84+2.30661.05或(533.05,814.62),同样地,对于Y在X=1000的个体值,其95%的置信区间为:673.84-2.30661.05Yx=1000 673.84+2.30661.05或(372.03,975.65),总体回归函数的置信带(域)(confidence band)个体的置信带(域),对于Y的总体

47、均值E(Y|X)与个体值的预测区间(置信区间):,(1)样本容量n越大,预测精度越高,反之预测精度越低;(2)样本容量一定时,置信带的宽度当在X均值处最小,其附近进行预测(插值预测)精度越大;X越远离其均值,置信带越宽,预测可信度下降。,1、总体均值预测值的置信区间,于是,在1-的置信度下,总体均值E(Y|X0)的置信区间为,2、总体个值预测值的预测区间,从而在1-的置信度下,Y0的置信区间为,3、例题收入-消费支出,样本回归函数为,则在 X0=1000处,0=142.4+0.6701000=812.4,因此,总体均值E(Y|X=1000)的95%的置信区间为:(812.42.30627.6,812.4+2.30627.6)(748.8,875.9),同样地,对于Y在X=1000的个体值,其95%的置信区间为:(812.4-2.30659.1,812.4+2.30659.1)(676.1,948.7),说明,本节列举了两个一元线性回归模型实例,完成了建立模型、估计参数、统计检验和预测的过程。从理论上讲,经典线性回归模型理论是以随机抽样的截面数据或者平稳的时间序列数据为基础的。对于非平稳时间序列数据,存在理论方法方面的障碍。如何处理?本书第8章将专门讨论。在27章中大量采用非平稳时间序列数据作为实例,暂时不考虑理论方法方面的障碍。,

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号