《Logistic回归模型.ppt》由会员分享，可在线阅读，更多相关《Logistic回归模型.ppt（81页珍藏版）》请在三一办公上搜索。
1、1,Logistic 回归模型,赵耐青复旦大学公共卫生学院,2,数据分析的背景,计量资料单因素统计分析对于两组计量资料的比较，一般采用t检验或秩和检验。对于两个变量的相关分析采用Pearson相关分析或Spearman相关分析考虑多因素的影响，对于应变量(反应变量)为计量资料，一般可以考虑应用多重线性回归模型进行多因素分析。,3,数据分析的背景,单因素的分类资料统计分析，一般采用Pearson 2进行统计检验，用Odds Ratio及其95%可信区间评价关联程度。考虑多因素的影响，对于反应变量为分类变量时，用线性回归模型P=a+bx就不合适了，应选用Logistic回归模型进行统计分析。,4,
2、Logistic回归模型,按研究设计分类非配对设计：非条件Logistic回归模型配对的病例对照：条件Logistic回归模型按反应变量分类二分类Logistic回归模型(常用)多分类无序Logistic回归模型多分类有序Logistic回归模型,5,基础知识,通过下例引入和复习相关概念例如：研究患某疾病与饮酒的关联性患病率 P1=a/m1 P2=b/m2,6,基础知识,Odds（优势）,P越大,则Odds越大；P越小,则Odds越小 并且 0Odds+,7,基础知识,P与Odds一一对应对于两个Odds的比较，一般用它们的Ratio，并称为Odds Ratio(OR)，其定义如下：其样本估计
3、统计量为,8,基础知识,故比较两个率比较OR=1?OR1?OR1?,9,(二分类)Logistic回归模型,因为0Odds+所以-ln(Odds)+对ln(Odds)引入类似多重线性回归的表达式,10,Logistic回归模型,记：故可以写为也可以写为,11,回归系数的意义,以x1的回归系数1为例固定其它自变量，比较x1与x1+1的ln(Odds)变化。对于x1，对于x1+1，反对数变换得到,12,研究急性心肌梗塞(AMI)患病与饮酒的关系，采用横断面调查。,实例1,13,实例1,饮酒的患病率和Odds分别为,不饮酒的患病率和Odds分别为,14,实例1的Logistic回归模型,患病(Y=1
4、)的概率为x=1 表示饮酒，x=0表示不饮酒回归系数0，1是未知参数，通常用最大似然估计的方法。,15,实例1：患病与未患病的概率,饮酒(x=1)，患病概率和未患病概率分别为不饮酒(x=0)，患病概率和未患病概率分别为,16,实例1：最大似然估计,本例的似然函数选择0和1使似然函数L达到最大，即最大似然估计。,17,实例1:用Logistic模型进行统计分析,以上述实例资料用Stata统计软件对回归系数进行最大似然估计，得到回归系数估计为即：,18,Logistic模型的单个回归系数检验,关键是如果0，意味自变量X与Y无关联性。由于的估计存在抽样误差，即使=0，其估计值b一般不为0，故需检验0
5、？H0：0 H1：00.05检验统计量可以证明：H0:0 为真时，z近似服从标准正态分布，即：|z|1.96，P0.05,拒绝H0,19,实例1:用Logistic模型进行统计分析,实例1的回归系数估计为se(b)=0.1780719,z=b/se=2.31,P=0.0210.05 拒绝H0，差异有统计学意义，可认为0。饮酒与患AMI的关联性为OR的95%可信区间为（1.06，2.14）,20,应用Logistic模型校正混杂作用,实例2：上例没有考虑吸烟情况，故将吸烟作为分层加入，资料如下：,21,实例2：应用Logistic模型校正混杂作用,从分层的资料表述可知：由于吸烟的混杂作用以致饮酒
6、与AMI患病伴随有关联。用x1=1和0分别表示饮酒和不饮酒，用x2=1和0分别表示吸烟和不吸烟，Logistic模型表示如下,22,Logistic模型的似然比检验,在多个自变量回归模型中，回归系数检验分为单个回归系数检验和多个回归系数检验。单个回归系数检验表示其它变量均在模型中的情况下，检验某个回归系数i=0，一般用Wald检验(如实例1）。多个回归系数检验要用似然比方法（likelihood ratio test),23,Logistic模型的似然比检验,多个回归系数的检验（以实例2为例）H0：1=2=0 H1：1，2不全为0=0.05H0为真时，模型为用最大似然法进行估计，其对数最大似然
7、函数值(似然函数的最大值取对数）记为ln(L0),24,Logistic模型的似然比检验,H1为真时，实例2的模型为用最大似然法进行估计，其对数最大似然函数值记为ln(L1)记似然比检验统计量为2ln(L)=2(ln(L1)-ln(L0),25,Logistic模型的似然比检验,可以证明：H0为真时，2ln(L)近似服从2分布，自由度为需检验的自变量个数，如在实例2中，自由度为2。如果似然比检验统计量2ln(L)则拒绝H0。如果对模型中所有的自变量进行检验，则称为模型检验。如实例2，对两个自变量进行检验，故这是模型检验。,26,实例2应用Logistic模型校正混杂作用,应用Stata软件进行
8、最大似然估计，得到模型拟合的主要结果如下似然函数比为2ln(L)76.32，df=2，P0.001，因此拒绝H0：1=2=0，可以认为1和2不全为0。,27,实例2应用Logistic模型校正混杂作用,应用Stata软件进行最大似然估计，得到回归系数估计的主要结果如下饮酒：,28,多自变量Logistic模型的OR解释,在本例中，对于同为吸烟或不吸烟的对象而言(x2相对固定不变)，饮酒(x1=1)的对数Odds为不饮酒(x1=0)的对数Odds为,29,多自变量Logistic模型的OR解释,则饮酒的对数Odds Ratio为即：饮酒的意义：对于同为吸烟的对象或者同为不吸烟的对象，其饮酒的故称
9、校正吸烟后OR，而前者未考虑吸烟的单因素OR称为crude OR,30,实例2应用Logistic模型校正混杂作用,饮酒：P=1校正了吸烟因素的情况下，没有足够的证据推断饮酒与AMI患病有关联性。吸烟：P0.001，校正了饮酒的情况下，可以认为吸烟与患AMI的关联性有统计学意义，并且可以认为吸烟者患AMI的风险更大。,31,Logistic模型中的交互作用,实例3：采用病例对照设计研究吸烟和家属史与患肺癌的关联性。用x1=1,0分别表示吸烟和不吸烟；x2=1,0分别表示有无家属史；用y=1,0分别表示患肺癌和未患肺癌。,32,实例3：Logistic模型的交互作用,一般而言，吸烟和家属史均是肺
10、癌的重要相关因素，很有可能这两个因素对患肺癌有交互作用，因此采用下列含有交互作用项的Logistic模型。其中x1和x2的乘积项x1x2称为交互作用项,33,应用Logistic模型分析实例3,用Stata软件对实例3的资料拟合上述模型，得到下列结果：3=0.955825，P0.04，差别有统计学意义，可以认为吸烟和家属史对患肺癌有交互作用。,34,实例3：Logistic模型的交互作用,由于本例模型为对于无家属史，x2=0代入模型，得到由回归系数与OR的关系，得到吸烟的：,P0.001,35,实例3：Logistic模型的交互作用,由于本例模型为对于有家属史，x2=1代入模型，得到有家属史的
11、吸烟OR为,36,实例3：Logistic模型的交互作用,H0：1+3=0 H1：1+30=0.05(应用Stata软件可进行下列计算)当H0为真时，检验统计量2服从自由度为1的2分布，由于本例检验统计量2=40.58=3.84，故拒绝H0，可以认为1+30，差别有统计学意义，可以认为吸烟者患肺癌的风险更大。,37,实例3：Logistic模型的交互作用,同理，为了评价家属史与肺癌的关联性，根据下列Logistic模型对于不吸烟x1=0，则上述Logistic模型为家属史的P=0.认为0260.05，差别有统计学意义，可以认为有家属史的患者患肺癌的风险更大。,38,实例3：Logistic模型
12、的交互作用,同理，为了评价家属史与肺癌的关联性，根据下列Logistic模型对于吸烟x1=1，则上述Logistic模型为同理可用Stata软件得到相应P=0.0077,39,Logistic模型中的交互作用,实例3小结：吸烟与肺癌患病有关联性，并且对于有家属史的情况下，吸烟与肺癌患病的关联性被进一步加强，且差异有统计学意义。家属史与患肺癌有关联性，并且吸烟会导致家属史与肺癌之间的关联性进一步加强，且差异有统计学意义。,40,病例对照研究与Logistic模型,在病例对照研究中，由于分组采样是按病例和对照分别采样的，病例组的人数和对照组的人数均是研究者自己决定的，病例数人与对照人数之比不是人群
13、的比，故不能估计患病率，但可以估计OR。对于病例对照研究的资料，可以用Logistic模型评估各个因素对应变量的OR，但不能估计和预测相应的患病概率。,41,Logistic模型中的交互作用,例4 评价两个药治疗某疾病的疗效，资料如下：定义y=1,0分别为有效和无效，x1=1,0分别为A药和B药，x2=1,0分别为病情重和轻。,42,Logistic模型中的交互作用,由于研究设计中考虑了病情重和病情轻的情况，所以应考虑病情轻重和不同药物治疗对疗效的交互作用。用Stata统计软件进行回归模型的拟合，得到下列结果（见下一张幻灯)。,43,Logistic模型中的交互作用,对于病情轻x2=0代入模型
14、，得到,44,Logistic模型中的交互作用,药物因素变量x1的回归系数为，P 0.652 0.05，两个药的疗效差异无统计学意义。模型病情重x2=1代入模型，得到,45,Logistic模型中的交互作用,即：病情重时的药物变量x1的回归系数为对于在病情重的情况下，两个药的疗效是否有差异需检验1+3=0，用Stata软件计算得：检验统计量242.16,df=1，P0.001，说明A药组(x1=1)的疗效大于B药组（x1=0)，差异有统计学意义。,46,实例4小结,在病情轻的情况下，两个药的疗效差异无统计学意义。在病情重的情况下，可以认为A药的疗效优于B药。即：不能简单地称A药优于B药或两个药
15、的疗效差异无统计学意义。请注意：在有交互作用的模型中，其主效应(本例x1）解释应谨慎。,47,交互作用的小结,交互作用的意义就是不同层（某因素的不同水平）另一个研究因素与应变量的之间的关联程度是不同的。在回归分析和方差分析中，经统计检验得到交互作用项有统计学意义只是统计分析的中间结果，不要简单归结为协同作用或拮抗作用，一般要做进一步分析。,48,交互作用的小结,在有交互作用的Logistic模型中，对交互作用项要根据研究目的进行解释，一般应进行分层作简单效应检验，特别很可能某个层有统计学意义而另一个层没有统计学意义。主效应的解释要特别注意，要结合回归模型和变量定义进行谨慎地解释。应用交互作用模
16、型可以比较多个OR。,49,多分类无序自变量的处理,例5：用横断面调查设计，分析职业与患糖尿病的关联性。职业：用x1=1,2,3分别表示农民，工人和干部(含知识分子)。用x2表示年龄。由于x1是分类无序变量，必须用亚元变量表示。,50,多分类无序自变量的处理,职业变量x1直接引入Logistic模型是不合适的，因为模型中引入x1后，模型为若10，导致x1越大，患病概率相对越大；若10，则导致x1越大，患病概率相对越小。而x1属于无序多分类变量，x1数值大小是没有背景意义的，仅是指示作用，应引入亚元变量处理。,51,多分类无序自变量的处理,亚元变量x12和x13的定义如下：相应的Logistic
17、模型为,52,多分类无序自变量的处理,借助Stata软件用最大似然法估计回归系数得到下列结果：x12的回归系数的P=0.4010.05，即：对于职业为工人与农民而言，其与患病之间的关联性无统计学意义。,53,多分类无序自变量的处理,x13的回归系数P0.0030.05，说明干部与农民的职业与患糖尿病有关联，其干部与工人比较，用Stata软件检验12=13，P=0.0230.05，差异有统计学意义。X2的回归系数P0.001,说明年龄与患病也有关联，其OR=1.04。,54,引用亚元变量应注意的问题,在Logistic模型中，二分类变量是不区分有序和无序的，因为回归系数的正负号能处理两分类变量所
18、对应的概率大小问题。在Logistic模型中，用亚元处理多分类自变量时，对同一个因素的一组亚元而言，必须同时引入模型或同时不引入模型，不能若干个亚元在模型中，其它亚元不在模型中，这样会导致模型的参数意义发生改变以致错误解释参数意义。,55,多分类有序自变量的处理,例6：用横断面调查设计，分析肥胖与患糖尿病的关联性。职业：用x1=0,1,2分别表示体重正常，超重和肥胖。用x2表示年龄。x1是有序的分类变量(等级变量)Y=1表示患糖尿病，Y=0表示未患糖尿病。,56,多分类有序自变量的处理,有序分类变量可以直接引入Logistic模型，也可以按无序分类变量方式采用亚元变量引入模型，一般视资料而决定
19、。有序分类变量直接引入模型：体重正常x1=0，体重超重x1=1,体重超重与正常的对数OR为,57,多分类有序自变量的处理,由体重正常x1=0体重超重x1=1,体重超重与正常的对数OR为作对数反变换，得到体重超重与正常的,58,多分类有序自变量的处理,由体重超重x1=1，体重肥胖x1=2,体重肥胖与超重的对数OR为作对数反变换，得到体重肥胖与超重的,59,多分类有序自变量的处理,由此可见，如果直接将有序多分类变量引入模型，就是假定相邻两个等级的总体OR相同，并且不难验证：体重肥胖与体重正常的。综合上述，若满足相邻两个等级的总体OR相同的条件下可以直接将有序多分类变量引入模型，对于不满足这个条件，
20、则应采用亚元变量引入模型。,60,多分类有序自变量的处理,对于多分类有序自变量，可以用似然比检验的方法检验相邻两个等级的总体OR是否相同。在模型1中引入亚元变量，其定义如下：,61,多分类有序自变量的处理,模型1用最大似然法得到的似然函数值为L1模型2：用最大似然法得到的似然函数值为L2显然两个模型等价意味 1=11且21=12似然比检验统计量为2ln(L)=2(ln(L1)-ln(L2),62,多分类有序自变量的处理,H0：模型1等价于模型2 H1：模型1不等价模型2=0.05H0为真时，2ln(L)近似服从自由度为1(自变量的分类数2)的2分布，即：检验统计量，则拒绝H0，选用引入亚元的模
21、型1。,63,逐步回归分析,在多因素统计分析中，多个自变量之间存在相关性，往往相互影响，研究者希望寻找主要影响应变量Y的因素。理论上，只要把各种因素组合都试一遍，寻找变量个数最多，每个变量均有统计学意义，并且模型拟合程度最好的模型，这种模型称为最佳预测模型，这种方法称为寻找最优子集，当变量较多时很难实现。,64,逐步回归,为了比较方便地找到最佳预测回归模型，一般采用逐步回归的分析策略建立拟最佳预测回归模型。逐步回归采用逐个增加最佳变量的方式或逐个减少最差的变量方式找到最佳或拟最佳回归模型。,65,逐步回归,逐步回归有4种方式：前进法:最开始时，模型中无任何自变量，然后逐个引入变量进入模型，每次
22、在未进入模型的所有变量中挑选一个变量，其P是最小且P值，每引入一个变量，重新拟合一次模型，逐步引入变量直至没有满足上述条件的变量可以引入模型为止。,66,逐步回归,后退法：最开始时，把所有的变量引入模型，然后逐次把P值最大并且P的变量剔除出模型，每次只剔除一个变量，每次剔除一个变量后重新拟合模型，按照上述剔除标准继续剔除变量，直至模型中的所有变量的P 为止。,67,逐步回归,前进逐步回归法 最开始时，模型中无任何自变量，然后逐个引入变量进入模型，每次在未进入模型的所有变量中挑选一个变量，其P是最小且P值 的变量，若有将其剔出模型，然后重新拟合一次模型，逐步引入变量直至没有满足上述条件的变量可以
23、引入模型为止。,68,逐步回归,后退逐步回归法 最开始时，把所有的变量引入模型，然后逐次把P值最大并且P的变量剔除出模型，每次只剔除一个变量，每次剔除一个变量后考察未在模型中的变量中是否存在P 的变量，若有重新引入模型，然后重新拟合模型，按照上述剔除标准继续剔除变量，直至模型中的所有变量的P 为止。,69,实例6：逐步回归,例6：采用横断面调查。研究糖尿病与血压、血脂等因素的关系。收集变量如下：,70,实例6：逐步回归,X1=1，0分别表示男和女X2表示年龄，X3表示BMIX4=1，0分别表示有家属史和无家属史X5，X6，X7分别表示总胆固醇，甘油三酯和高密度脂蛋白Y=1，0分别表示患糖尿病和
24、未患糖尿病。先根据逐步回归的思路，人工进行逐步回归，然后用软件进行逐步回归验证。,71,实例6：逐步回归,X1的P值最大并且P0.05，故剔除X1,72,实例6：逐步回归,X6的P值最大并且P0.05，故剔除X6,73,实例6：逐步回归,X3的P值最大并且P0.05，故剔除X3,74,实例6：逐步回归,X7的P值最大并且0.05，故剔除X7,75,实例6：逐步回归,所有变量的P值均0.05，故得到最终回归模型,76,实例6：逐步回归,用Stata进行（后退法)逐步回归，得到下列结果：begin with full modelp=0.9049=0.0510 removing x1p=0.7183
25、=0.0510 removing x6p=0.3873=0.0510 removing x3p=0.4013=0.0510 removing x7,77,实例6：逐步回归,得到下列回归系数的估计由上述结果可知与糖尿病患病的主要影响因素是年龄x2，家属史x4和总胆固醇x5。,78,逐步回归小结,逐步回归是寻找主要影响因素的一种回归策略，又称建立最佳预测模型。进入回归模型的变量可以推断这些变量与应变量Y有关联，但是没有进入回归模型的变量不能称这些变量与应变量Y没有关联性。一般设定变量进入模型的0.05，剔除变量的0.05。,79,Logistic回归模型小结,对于应变量为二分类，可以用Logist
26、ic回归模型进行统计分析。在Logistic模型中，自变量可以是二分类的，也可以是连续型变量和有序多分类变量，但无序多分类变量应用一组亚元变量取代。逐步回归是寻找主要影响因素的回归策略，没有进入模型的变量不能作推断。,80,Logistic回归模型小结,模型中出现有交互作用，不是统计分析的最终结果，只是中间结果，一般要根据研究目的进行简单效应分析。条件Logistic模型只适用于配对病例对照研究，其回归系数解释与非条件的Logistic模型相同。,81,Logistic回归模型小结,病例对照研究的资料可以用Logistic回归模型分析暴露因素与应变量之间的关联性，但不可以直接应用Logistic模型进行预测或估计患病率。Logistic回归模型在拟合的过程中经常会提到拟合优度(goodness of fiting)的问题,拟合优度没有统计学意义，只说明当前在模型中的变量情况下，该模型与最优模型无统计学差异，但不能说明模型中再增加变量的情况。,
