《回归分析法建模.ppt》由会员分享，可在线阅读，更多相关《回归分析法建模.ppt（57页珍藏版）》请在三一办公上搜索。
1、回归分析建模,Lum 21th July 2005,Outline,一、基本概念二、多元线性回归模型三、非线性回归,一、基本概念,1.两类关系确定性关系 e.g.圆的面积 非确定性关系 e.g.人的年龄x与血压Y的关系 细纱强度Y与原棉的纤维长度x1，纤维细度x2，纤维强度x3,2.回归分析,自变量X：可控变量（可精确测量）因变量Y：随机变量回归分析：研究两者之间的相关关系,3.基本问题,参数估计 parameter estimate假设检验 hypothesis testing预测预报 prediction,二、多元线性回归模型,实际问题中，一个变量往往受到多个因变量的影响，在线性回归模型中
2、则表现为有多个解释变量。所谓多元线性回归是指描述一个因变量与二个以上的自变量之间线性关系的一种方法，这样的模型被称为多元线性回归模型。,主要内容,1.多元线性回归模型及假设2.参数估计3.假设检验4.预测预报5.多元线性回归存在的问题6.实例分析,1.多元线性回归模型及假设,2.参数估计（最小二乘估计）,估计量的特征,一般来说，由于多元的缘故，多元回归估计值的显著性检验的内容显然要复杂得多，具体说是检验的对象多、不同性质的问题多、难度大等。,3.假设检验,3.1 回归参数的显著性检验,回归参数的t-检验,3.2 回归方程的显著性检验,回归系数的t检验，检验了各个解释变量Xj单独对应变量Y是否显
3、著；我们还需要检验：所有解释变量联合在一起，是否对应变量Y也显著？这即是下面所要进行的F-检验。,方差分析表,以下用表格的形式列出变差、自由度、方差,F检验（单侧检验）,4.预测预报,4.1 因变量平均值的点预测、区间预测4.2 因变量个别值的点预测、区间预测,4.1 应变量平均值的点预测、区间预测,4.1.1 Y平均值的点预测 将解释变量预测值代入估计的方程便可：,4.1.2 Y平均值的区间预测,基本思想,Y平均值的区间预测 具体作法,4.2 因变量个别值的点预测、区间预测,4.2.1 点预测：与因变量平均值点预测相等，为：,因变量个别值的区间预测,5.多元线性回归存在的问题,5.1 样本容
4、量问题5.2 相对重要性5.3 多重共线性问题5.4 虚变量,5.1 样本容量问题,最小样本容量：所谓“最小样本容量”，即从最小二乘原理和最大似然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。样本最小容量必须不少于模型中解释变量的数目（包括常数项），即,满足基本要求的样本容量,5.2 相对重要性,在多元线性回归模型中，有时需要考察对于被解释变量来讲，哪个解释变量更重要，即需要比较各个解释变量的相对重要性，这可以通过简单相关系数、偏相关系数和复相关系数来考察。如果各解释变量的计量单位不同，就不能直接应用偏回归系数进行比较，因为偏回归系数的取值受解释变量计量单位的影响。我们需
5、要对偏回归系数加以调整，以便进行多元回归模型中各解释变量对被解释变量相对重要性的比较，如以下介绍的Beta系数、弹性系数。,Beta系数,弹性系数,所谓“多重共线性”是指解释变量之间存在某种线性关系。显然，如果多元回归模型中的解释变量存在“多重共线性”，其最小二乘估计的结果是无效的。亦即 是不存在的。（岭回归、主成分回归）,5.3多重共线性问题,在回归分析中，还有一类用来表示某种属性的变量，例如，有关性别、种类、地区、战争、地震、罢工、政变和政府经济政策的变化等。这种通常表示有或没有某种性质的变量称之为“虚变量”。一般用-1，0，1等来表示有或没有这种属性。一个例子：战争时期和和平时期的消费函
6、数。,5.4 虚变量（Dummy Variables）,利用“虚变量”的一般原则是，如果一个质的变量需要表示m种可能性，那么最多就只能引入m-1个虚变量。根据这个原则，在上面的例子中，就只能引入一个虚变量。如果不遵守这个原则，我们就可能掉入所谓“虚变量陷阱”，即完全多重共线性的情形。关于如何应用“虚变量”方法，需要讨论更多的问题，必须另外进行讨论。,6.实例分析(e.g.1),结果表明，当前一期人均居民消费额（X2）保持不变时，人均国内生产总值（X1）每 增加1千元，人均居民消费额（Y）平均 增加0.339千元；当人均国内生产总值（X1）保持不变时，前一期人均居民消费额（X2）每增加1千元，人
7、均居民消费额（Y）平均 增加0.302千元。注：对回归模型和回归参数一定要分别通过t 检验和F检验，才能说明模型的合理性。在此留作作业。,e.g.2,某电网有8台发电机组，6条主要线路，表A和表B中的方案0给出了各机组的当前出力和各线路上对应的有功潮流值，方案132给出了围绕方案0的一些实验数据，试用这些数据确定各线路上有功潮流关于各发电机组出力的近似表达式。,表A：各机组出力方案(MW),表B 各线路的潮流值(MW),所求回归参数,SPSS提供的模型显著性检验水平,多元线性回归法建模小结,Step1.分析实验数据建立回归模型Step2.估计模型的未知参数Step3.对回归方程和回归参数作显著
8、性检验，如果通过检验则执行下一步，否则转Step1Step4.结合实验数据作预测,三、非线性回归,1.引言 在许多实际问题中，变量之间更加一般的关系形式是非线性关系的。我们注意到在非线性关系中，有许多情况是可以通过简单的变量变换，就可以转变为线性回归关系，从而这类非线性关系的问题也可应用前面所讲的方法来解决。因此，解决非线性回归模型的基本思路，就是通过一定的转换，将非线性形式转换成线性的形式，然后加以解决。,2.变量之间的非线性关系,一些常用非线性函数（主要是单个自变量的情况）,3.实例分析,e.g.1 多项式函数,e.g.2 参数为非线性的情况,总之，对于非线性回归模型问题，实际上最重要、最困难的，并不是非线性形式的线性转换方式，而是原有的非线性回归模型如何建立，这才是最困难的，也是建模关键和困难之处。,非线性回归小结,Thank you！,
