《主成分分析在STATA中的实现以及理论介绍.docx》由会员分享，可在线阅读，更多相关《主成分分析在STATA中的实现以及理论介绍.docx（14页珍藏版）》请在三一办公上搜索。
1、（完整word版）主成分分析在STATA中的实现以及理论介绍 第十二章主成分分析主成分分分析也称作主分量分析，是霍特林（Hotelling）在1933年首先提出。主成分分析 是利用降维的思想，在损失较少信息的前提下把多个指标转化为较少的综合指标.转化生成的综 合指标即称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分互不相关。Stata 对主成分分析的主要内容包括：主成分估计、主成分分析的恰当性（包括负偏协方差矩阵和负 偏相关系数矩阵、KMO（KaiserMeyerOlkin）抽样充分性、复相关系数、共同度等指标测度）、 主成分的旋转、预测、各种检验、碎石图、得分图、载荷图等。y
2、= ab +s ,i = 1,2,.,n j = 1,2,.,p ij i jij主成分的模型表达式为：L P .C= V a V = 人i = 1 i i ivv = 0a = diag（人，人，.,人）,人 X X12p 12p其中，a称为得分,b称为载荷。主成分分析主要的分析方法是对相关系数矩阵（或协方差矩 阵）进行特征值分析。Stata中可以通过负偏相关系数矩阵、负相关系数平方和KMO值对主成分分析的恰当性进行 分析.负偏相关系数矩阵即变量之间两两偏相关系数的负数。非对角线元素则为负的偏相关系数. 如果变量之间存在较强的共性，则偏相关系数比较低.因此，如果矩阵中偏相关系数较高的个数 比
3、较多，说明某一些变量与另外一些变量的相关性比较低，主成分模型可能不适用。这时，主成 分分析不能得到很好的数据约化效果.Kaiser-MeyerOlkin抽样充分性测度也是用于测量变量之间相关关系的强弱的重要指标， 是通过比较两个变量的相关系数与偏相关系数得到的。KMO介于0于1之间。KMO越高，表明变 量的共性越强。如果偏相关系数相对于相关系数比较高，则KMO比较低，主成分分析不能起到 很好的数据约化效果。根据Kaiser（1974），般的判断标准如下：0。00-0.49,不能接受 （unacceptable）;0。500。59，非常差（miserable）； 0。600。69，勉强接受（me
4、diocre）； 0。700。79,可以接受（middling）;0。800.89，比较好（meritorious）;0.901。00，(完整word版)主成分分析在STATA中的实现以及理论介绍非常好(marvelous).SMC即一个变量与其他所有变量的复相关系数的平方，也就是复回归方程的可决系数。SMC比较高表明变量的线性关系越强，共性越强，主成分分析就越合适。成分载荷、KMO、SMC等指标都可以通过extat命令进行分析。多元方差分析是方差分析在多元中的扩展，即模型含有多个响应变量。本章介绍多元(协)方差分析以及霍特林(Hotelling)均值向量T检验。12.1主成分估计Stata可
5、以通过变量进行主成分分析，也可以直接通过相关系数矩阵或协方差矩阵进行.(1)sysuse auto,clearpca trunk weight length headroompca trunk weight length headroom, comp(2) covariance(2) webuse bg2， clearpca bg2cost*， vce (normal)12.2 Estatestat给出了几个非常有用的工具，包括KMO、SMC等指标。webuse bg2， clearpca bg2cost*, vce (normal)estat antiestat kmoestat loadi
6、ngsestat residualsestat smcestat summarize12.3预测Stata可以通过predict预测变量得分、拟合值和残差等。webuse bg2， clearpca bg2cost大， vce(normal)predict score fit residual q(备注：q代表残差的平方和)12.4碎石图碎石图是判断保留多少个主成分的重要方法。命令为screeplot。webuse bg2， clearpca bg2cost*, vce(normal)screeplot12.5得分图、载荷图得分图即不同主成分得分的散点图.命令为scoreplot。webuse
7、 bg2,clearpca bg2cost*， vce(normal) scoreplot载荷图即不同主成分载荷的散点图。命令为loadingplot。webuse bg2,clearpca bg2cost大， vce(normal) loadingplotComponent loadingsbg2cost12 tnenoDm oc* bg2cost3 bg2cost2bg2cost5 *bg2cost6.bg2cost4-.4-.20.2Component 1.4.612.6旋转对载荷进行旋转的命令格式为rotate。webuse bg2， clearpca bg2cost*, vce (n
8、ormal)rotate例：对中国30个省市自治区经济发展基本情况的八项指标主成分分析，原始数据如下表:省份GDP（亿元）居民 消费 水平 （元）固定资 产投资（亿元）职工平 均工资 （元）货物周转量（亿吨公里）居民消 费价格 指数 （上年 100）商品零 售价格 指数（上年100）工业总 产值（亿元）areax1x2x3x4x5x6x7x8北京10488.03203463814。756328758。9105。1104.410413天津6354。 38140003389。8417482703.4105。4105。112503河北16188。6165708866。6247565925。5106。
9、2106.723031山西6938.7361873531。2258282562。2107.2107.210024内蒙古7761.881085475.4261143658.7105.7104。78740.2辽宁13461.57962510019。1277297033。9104.6105。324769吉林6424。 0675915038。9234861157。8105.1106.28406.9黑龙江831070393656230461690.9105。6105。87624。5上海13698.15273434823。15656516029.8105.8105。325121江苏30312.611101
10、315300.6316674300.9105。4104。967799浙江21486.92138939323341464974.9105106.340832安徽8874。 1763776747263635843。2106。2106。311162福建10823.11103615207。7257022396.2104.6105.715213江西6480.3357534745。4210002285。5106106。18499。6山东31072O06957315435.92640410107.8105。3104.962959河南18407.78587710490。6248165165。1107107.5
11、26028湖北11330.3874065647227392526.4106。3106。313455湖南11156。6471455534248702349。8106105.611553广东35696。461439010868。7331104428.4105.610665425广西7171.5861033756.4256602079107.8107.66072海南1459。236550705.421864597。7106.9106.71103。1重庆5096。6698353979。6269851490.3105。61055755.9四川12506.2560727127.8250381578.710
12、5。1105.314762贵州3333.444261864.524602805.3107。6107.23111.1云南5700。145533435.924030821。3105。7106。15144。6西藏395。913504309.94728035.5105。7103.948.19陕西6851.3262904614。4259422027106.4106。97480。8甘肃3176。1148691712.8240171594.9108。2107。93667。5青海961。535830583。230983335。7110.1110.61103。1宁夏1098.517193828.93071970
13、3。6108.5108。51366.5新疆4203。4155422260246871273108.1108。54276.1数据：来源于2009年中国统计年鉴程序:clear大定义变量的标签label var area 省份labelvarx1labelvarx2labelvarx3labelvarx4labelvarx5labelvarx6labelvarx7labelvarx8”GDP（亿元）”居民消费水平（元）”固定资产投资（亿元）”职工平均工资（元）”货物周转量（亿吨公里）”居民消费价格指数（上年100）商品零售价格指数（上年100）工业总产值（亿元）describepca x1-x8
14、/大主成分估计大/estat kmo /*KMO检验，越高越好*/estat smc /*SMC检验，值越高越好*/screeplot /*碎石图(特征值等于1处的水平线标示保留主成分的分界点)大/predict score fit residual q /*预测变量得分、拟合值和残差以及残差的平方和*/predict fl f2 f3predict q1 q2 q3scoreplot,mlabel (area) yline(0) xline(0) /*得分图1 大/scoreplot,xtitle (经济社会总量”)ytitle(”人民生活水平”)/mlabel (area) yline (
15、0) xline (0) /*得分图大/scatter f2 f3,xtitle (人民生活水平”)ytitle (” 物价水平”)/mlabel(area) yline (0) xline(0) /大得分图*/scoreplot, factors (3) mlabel (area) /大得分图大/scoreplot,combined factors(3) mlabel(area) yline (0) xline (0)/大得分图大/loadingplot , yline(0) xline (0) /*载荷图 */loadingplot , combined factors(3) yline
16、(0) xline(0)/*载荷图 */rotate /*旋转*/分析：先对数据进行标准化处理后，接着进行主成分分析，可以得到：表:R的特征值和特征向量主成分特征值方差贡献率累计贡献率14.254882.502580.531921.75229。5375380.750931。 21475。7609160。 90274.453839。2607010.95955。193137.1241410.98366.0689962。02734640.99227。0416498.02119450.99748。0204553。1。 0000标具有的信息，我们取前3个特征值.通过对载荷矩阵进行旋转，可得到，相应的特征
17、向量，见 下表：第一、第二、第三特征值向量第一特征向量第二特征向量第三特征向量x1_s0.42490。 30640。 1079x2_s0.32170.44670.3101x3_s0.40570。 38550.0181x4_s0.18560。61000。 2536x5_s0。 3520-0。 05100.3714x6_s-0。 34440.14270。 5784x7_s0.31180.27670.5769x8_s0.42090。 29380.1495因而前三个主成分为：第一主成分：F1 = 0。4249x1+0。3217x2_s+0.4057x3_s+0.1856x4_s+0。3520x5_s-
18、0。3444x6_s0.3118x7_s+0.4209x8_s第二主成分：F2 = 0.3064x1-0。4467x2_s+0.3855x3_s0.6100x4_s-0.0510x5_s+0。 1427x6_s+0.2767x7_s+0。 2938x8_s第三主成分：F3 = 0.1079x1+0.3101x2_s0.0181x3_s+0.2536x4_s+0.3714x5_s0.5784x6_s+0.5769x7_s+0。1495x8_s在第一主成分的表达式中第一、第三、第八项指标的系数较大，这三项指标起主要作用， 我们可以把第一主成分看成是由国内生产总值、固定资产投资、工业总产值所刻划的反
19、映 经济 社会总量的综合指标；（完整word版）主成分分析在STATA中的实现以及理论介绍在第二主成分中，第二、第三、第四项指标的影响大，且第二、第四项的影响较大，因此可 以把第二主成分看成是由居民消费水平、职工平均工资表示的反映人民生活水平的综合指标；在第三主成分中，第六、第七项指标大于其余的指标，可看成是受居民消费价格指数、商 品零售价格指数的影响，反映物价水平的综合指标。在这次的主成分分析里面，我们可以进行些检验以验证我们分析的效果，通过KMO检验和 SMC检验，得到了下面的检验值：变量的KMO、SMC值表变量KMO值SMC值x1_s0.74230。 9656x2_s0.53610。 8
20、366x3_s0。 77060。 9276x4_s0。 47370。 7647x5_s0。 67940。 6515x6_s0.54670。 8837x7_s0.54820.8627x8_s0。 76920。 9591合计0.6447Kaiser-Meyer-Olkin抽样充分性测度也是用于测量变量之间相关关系的强弱的重要指标， 是通过比较两个变量的相关系数与偏相关系数得到的。KMO介于0于1之间.KM O越高，表明变 量的共性越强。如果偏相关系数相对于相关系数比较高，则KMO比较低，主成分分析不能起到很 好的数据约化效果.根据Kaiser（1974），般的判断标准如下：0。000。49，不能接
21、受（unacceptable） ;0.50-0.59,非常差（miserable）； 0。600。69，勉强接受（mediocre）;。700.79,可以接受(middling)； 0.800。89,比较好(meritorious); 0。90-1.00,非常好（完整word版）主成分分析在STATA中的实现以及理论介绍 （marvelous）.SMC即一个变量与其他所有变量的复相关系数的平方，也就是复回归方程的可决系数。SMC比较高表明变量的线性关系越强，共性越强，主成分分析就越合适。根据KMO越高，表明变量的共性越强和SMC比较高表明变量的线性关系越强，共性越强，主 成分分析就越合适。从上
22、表可以看出，在该例中，各变量基本符合要求。通过碎石图，我们可以很直观的看出各个特征值的大小。在该图中，特征值等于1处的水平线标示了保留主成分分析的分界点，同时再次强调了本例中的成分4到8并不重要。碎石图Scree plot of eigenvalues after pca通过predict我们可以得出各个观察变量的所对应的各个主成分的线性组合（即得分）。在得分图里，我们可以看到不同地区在第一、第二主成分里各自的得分情况。得分图Score variables (pca)*山东河南川Scores for component 1江苏广东河北内鬃古建 庆202-4Score variables (pc
23、a)东天津北京*上海32101-2青海上海广东浙江 京4%东辽宁-4-2024Scores for component 1-4-2024Scores for component 132101-2北京天津北川矗广东河南西河 山办东-4-202Scores for component 2通过载荷图，我们可以直观看出各个变量对主成分影响的大小。载荷图2 henoQE &4 -2 -x7_sx3_s .x8_s*x6_s4：6x5_s*x2_sx4_s-.4-.20).2.4Component loadingsComponent 1Component loadings x6x7_sx5善，,x2_sx4_s.ii3iix7 sx6s x6_s x7_sx5_s*x4s x2_scx8s . x*iii乂3_毋 ii2 tnenoDm nc3 tnenoom Qc运行rotate进行旋转后，我们将旋转后的结果和旋转前的结果进行比较，可以发现每一个观 察变量独自构成一个主成分，方差贡献相等，都为12%。
