《普通最小二乘法.docx》由会员分享，可在线阅读，更多相关《普通最小二乘法.docx（7页珍藏版）》请在三一办公上搜索。
1、普通最小二乘法普通最小二乘法 普通最小二乘法，是应用最多的参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。 在已经获得样本观测值yi,xi的情况下，假如模型的参数估计量已经求得到，为b0和b1，并且是最合理的参数估计量，那么直线方程 yi=b0+b1xi i=1,2,n (2.2.2) 应该能够最好地拟合样本数据。其中yi为被解释变量的估计值，它是由参数估计量和解释变量的观测值计算得到的。那么，被解释变量的估计值与观测值应该在总体上最为接近，判断的标准是二者之差的平方和最小。 22Q=(y-b-bx)=ui01ii=Q(b0,b1) i=1n2nn-bx=m
2、inQ(b,b)i2=(yi-yi)=yi-bQb=b,b=b=u01i010011()211(2.2.3) 为什么用平方和？因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么，就可以从最小二乘原则和样本观测值出发，求得参数估计量。 由于 Q=(yi-yi)21n(yi-(b0+b1xi)21n是b0、b1的二次函数并且非负，所以其极小值总是存在的。根据罗彼塔法则，当Q对b0、b1的一阶偏导数为0时，Q达到最小。即 Qb0Qb1容易推得特征方程： =0,b=bb0=b011=0,b=bb0=b011 (2.2.4) (yi=
3、1nii=1ni-bx)=(y-y-bii)=ei=001iix(y-bx)=xe=0-bii01i解得： y=nb+bxyx=bx+bxi01iii0i12innnnnxiyi-(xi)(yi)(xi-x)(yi-y)i=1i=1i=1i=1=b1=2nnn22(x-x)所以有：nx-(x)iiii=1i=1i=1=y-bxb01于是得到了符合最小二乘原则的参数估计量。 为减少计算工作量，许多教科书介绍了采用样本值的离差形式的参数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记
4、x=y=-1xin 1yi n&i=xi-xx&i=yi-y y的参数估计量可以写成 n&iy&ix=t=1b1n&i2xt=1b0=y-b1x (2.2.7) 至此，完成了模型估计的第一项任务。下面进行模型估计的第二项任务，即求随机误差项方差的估计量。记ii=yi-yi为第i个样本观测点的残差，即被解释变量的估计值e=u2us=2ei与观测值之差。则随机误差项方差的估计量为 (2.2.8) n-2在关于2us的无偏性的证明中，将给出的推导过程，有兴趣的读者可以参考有关资料。 在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。由给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估计值”，或者“点估计”，是参数估计量b0和b1的一个具体数值；但从另一个角度，仅仅把看成b0和b1的一个表达式，那么，则是yi的函数，而yi是随机变量，所以b0和b1也是随机变量，在这个角度上，称之为“估计量”。在本章后续内容中，有时把b0和b1作为随机变量，有时又把b0和b1作为确定的数值，道理就在于此。
