《回归系数的最小二乘法.docx》由会员分享，可在线阅读，更多相关《回归系数的最小二乘法.docx（6页珍藏版）》请在三一办公上搜索。
1、回归系数的最小二乘法回归系数的最小二乘法 现在我们用最小二乘法来估计模型中的未知参数b0和b1.假设有n组独立观测值：(x1,y1),(x2,y2),.,xn,yn),则由有 (yi=b0+b1xi+ei,i=1,2,.,n Eei=0,Dei=s2且e1,，e2,，.en,相互独立记Q=Q(b0，b1)=e=(yi-b0-b1xi)22ii=1i=1nn称Q(b0,b1)为偏离真实直线的偏差平方和。最小二乘法就是b0和b1的估计,Q,Q(b0,b1)为此，将上式分别对b0、b1求偏导数，使得b0b1b0b1=minb0,b1nQb=-2(yi-b0-b1xi)i=10得令上式b0,b1取代b
2、0，b1,得 nQ=-2(y-b-bx)i01ii=1b1n(yi-b0-bixi)=0i=1于是有 nx(y-b-bx)=0ii01ii=1nnnb0+b1xi=yii=1i=1此方程组称为正规方程。 nnn2b0xi+b1xi=xiyii=1i=1i=1-b=y-b1x0由正规方程解得xy-xy b1=2x2-x或b1=(x-x)(y-y)iii=1n(x-x)ii=1n21n1n1n21n2其中x=xi,y=yi,x=xi,xy=xiyi ni=1ni=1ni=1ni=1用这种方法求出的估计bi(i=0,1)称为bi的最小二乘估计，简称LS估计。回归方程为y=b0+b1x=y+b1(x-
3、x) 显然，b1是拟合直线的斜率，b1是拟合直线在x=x0处的截距.n个点n)的几何重心(x,y)落在拟合直线上. (xi,yi)(i=1,2,为了便于计算，人们常用下列记号和等式的各种变形 2nn n22Lxx=(xi-x)=(xi-x)xi=xi-nxi=1i=1i=1nnnnLXY=(xi-x)(yi-y)=(xi-x)yi=(yi-y)xi=xiyi-nxy： i=1i=1i=1i=1nnn222Lyy=(yi-y)=(yi-y)yi=yi-nyi=1i=1i=1这时b1可简记为： b1=Lxy/Lx x (xi-x)yi2si=1注意：b1=,所以它是b1的无偏估计，同样，b0Nb122nn(xi-x)(xi-x)i=1i=1n也是b0的无偏估计。 对每组(xi,yi)，可求出拟合直yi以及残差yi-yi，易知 yi-yi=0 i=1n这说明残差之和为零。 问题一中的： 求和模型： 我们运用SUM自动求和函数，可以求和的还有条件求和SUMIF函数，如果要计算A1:An的数值和可利用=SUM(A1：An)；如果是计算A1:An中大于m的数值求和可用=SUMIF(A1：An, m)。 平均值模型：
