应用统计学回归模型幻灯片.ppt

应用统计学回归模型第1页，共55页，编辑于2022年，星期六 内内容容提提要要非条件非条件logistic回归回归模型简介模型简介简单分析实例简单分析实例哑变量设置哑变量设置自变量的筛选方法与逐步回归自变量的筛选方法与逐步回归模型拟合效果与拟合优度检验模型拟合效果与拟合优度检验模型的诊断与修正模型的诊断与修正条件条件logistic回归回归第2页，共55页，编辑于2022年，星期六对对分分类类变变量量的的分分析析，当当考考察察的的影影响响因因素素较较少少，且且也也为为分分类类变变量量时时，常常用用列列联联表表（Contingency Table）进进行行整整理理，并并用用 2检检验验或分层或分层 2检验进行分析，但存在以下局限性：检验进行分析，但存在以下局限性：无无法法描描述述其其作作用用大大小小和和方方向向，更更不不能能考考察察各各因因素素间间是是否否有有交互作用；交互作用；当控制的分层因素较多时，将导致检验结果不可靠；当控制的分层因素较多时，将导致检验结果不可靠；2检验无法对连续性自变量进行分析检验无法对连续性自变量进行分析（致命缺陷）（致命缺陷）。模型简介模型简介第3页，共55页，编辑于2022年，星期六logistic回回归归模模型型适适合合于于应应变变量量为为二二项项分分类类的的资资料料，在在医医学学研研究究领领域域中中的的应应用用广广泛泛。如如流流行行病病病病因因学学研研究究（包包括括队队列列研研究究、病病例例对对照照研研究究、横横断断面面研研究究等等）、临临床床疗疗效效研研究究（如如疗疗效效与与治治疗疗方方法法、患患病病轻轻中中重重等等因因素素关关系系）、卫卫生生服服务务研研究究（如如是是否就诊与性别、年龄、文化程度的关系）等等。否就诊与性别、年龄、文化程度的关系）等等。模型简介模型简介第4页，共55页，编辑于2022年，星期六模型简介模型简介 logistic回归模型：回归模型：第5页，共55页，编辑于2022年，星期六 反应变量为二分类变量或某事件的发生率；反应变量为二分类变量或某事件的发生率；自变量与自变量与logit（P）之间为线性关系；）之间为线性关系；残差合计为残差合计为0，且服从二项分布；，且服从二项分布；各观测间相互独立。各观测间相互独立。模型简介模型简介适用条件适用条件 logistic logistic回归模型应该使用最大似然法来解决方程的估计和检回归模型应该使用最大似然法来解决方程的估计和检验问题，不应当使用以前的最小二乘法进行参数估计。验问题，不应当使用以前的最小二乘法进行参数估计。第6页，共55页，编辑于2022年，星期六例例1 某某医医师师希希望望研研究究病病人人的的年年龄龄age、性性别别sex（0为为女女性性、1为为男男性性）、心心电电图图检检验验是是否否异异常常ecg（ST段段压压低低、0为为正正常常、1为为轻轻度度异异常常、2为为重重度度异异常常）与与冠冠心病心病ca是否有关，数据见是否有关，数据见logistic_binary.sav。简单分析实例简单分析实例第7页，共55页，编辑于2022年，星期六简单分析实例简单分析实例第8页，共55页，编辑于2022年，星期六选入应变量选入应变量选入自选入自变量变量简单分析实例简单分析实例第9页，共55页，编辑于2022年，星期六简单分析实例简单分析实例结果分析结果分析 此表为应变量取值水平编码，此表为应变量取值水平编码，SPSSSPSS默认取值水平高的为阳默认取值水平高的为阳性结果。性结果。第10页，共55页，编辑于2022年，星期六简单分析实例简单分析实例结果分析结果分析 本本表表输输出出当当前前模模型型的的-2log-2log（似似然然值值）和和两两个个伪伪决决定定系系数数，但但对对于于logisticlogistic回回归归而而言言，通通常常看看见见的的伪伪决决定定系系数数不不像像线性回归模型中的决定系数那么大。线性回归模型中的决定系数那么大。第11页，共55页，编辑于2022年，星期六简单分析实例简单分析实例结果分析结果分析 此此表表输输出出模模型型中中的的各各自自变变量量的的偏偏回回归归系系数数及及其其标标准准误误、Wald Wald 2 2、自由度、自由度、P P 值、值、OROR值（即值（即expexp（B B）。）。第12页，共55页，编辑于2022年，星期六哑变量设置哑变量设置在在回回归归模模型型中中，回回归归系系数数b b表表示示其其他他自自变变量量不不变变，x x每每改改变变一一个个单单位位时时，所所预预测测的的y y的的平平均均变变化化量量，当当x x为为连连续续性性变变量量时时，这这样样解解释释没没有有问问题题，二二分分类类变变量量由由于于只只存存在在两两个个类类别别间间的的比比较较，也也可可以以对对系系数数得得到到很很好好的的解解释释。但但是是当当x x为为多多分分类类变变量量时时，仅仅拟拟合合一一个个回回归归系系数数就就不不太太合合适适了了，此此时时需需要使用要使用哑变量哑变量（dummy variabledummy variable）方式对模型进行定义。）方式对模型进行定义。第13页，共55页，编辑于2022年，星期六例例2 Hosmer 和和Lemeshow于于1989年研究了低出生体重婴儿年研究了低出生体重婴儿的影响因素，结果变量为是否娩出低出生体重儿（变量名为的影响因素，结果变量为是否娩出低出生体重儿（变量名为LOW，1表示低出生体重儿，表示低出生体重儿，0表示非低出生体重儿），表示非低出生体重儿），考虑的自变量有产妇妊娠前体重、产妇年龄、种族、是否考虑的自变量有产妇妊娠前体重、产妇年龄、种族、是否吸烟、早产次数、是否患高血压等。（数据文件见：吸烟、早产次数、是否患高血压等。（数据文件见：logistic_step.sav。）。）哑变量设置哑变量设置第14页，共55页，编辑于2022年，星期六哑变量设置哑变量设置第15页，共55页，编辑于2022年，星期六哑变量设置哑变量设置第16页，共55页，编辑于2022年，星期六选入无序多分选入无序多分类变量类变量设置参照水平设置参照水平哑变量设置哑变量设置第17页，共55页，编辑于2022年，星期六哑变量设置哑变量设置结果分析结果分析 哑变量（种族）的设置情况哑变量（种族）的设置情况第18页，共55页，编辑于2022年，星期六哑变量设置哑变量设置 白人低出生体重的风险较低，而黑人风险较高。白人低出生体重的风险较低，而黑人风险较高。结果分析结果分析第19页，共55页，编辑于2022年，星期六 参照水平最好要有实际意义，不推荐使用其他作为参照；参照水平最好要有实际意义，不推荐使用其他作为参照；参照水平组要有一定的频数作保证，应不少于参照水平组要有一定的频数作保证，应不少于30或或50例；例；对有序自变量的分析：对有序自变量的分析：从专业出发确定；从专业出发确定；分别以哑变量和连续性变量的方式引入模型进行比较后确定。分别以哑变量和连续性变量的方式引入模型进行比较后确定。哑变量设置哑变量设置 哑变量设置应该注意的问题哑变量设置应该注意的问题第20页，共55页，编辑于2022年，星期六 Forward：Conditional （最可靠）（最可靠）Forward：LR Forward：Wald （应当慎用）（应当慎用）Backward：Conditional（最可靠）（最可靠）Backward：LR Backward：Wald（应当慎用）（应当慎用）6 6 种筛选自变量的方法种筛选自变量的方法逐步回归逐步回归第21页，共55页，编辑于2022年，星期六例例3 仍仍以以例例2的的数数据据为为例例，演演示示如如何何在在SPSS中中实实现现逐逐步步logistic回回归归分析。分析。逐步回归逐步回归第22页，共55页，编辑于2022年，星期六选择其中一种选择其中一种逐步法逐步法逐步回归逐步回归第23页，共55页，编辑于2022年，星期六逐步回归逐步回归 给出了模型拟合过程中每一步的给出了模型拟合过程中每一步的-2log-2log（L L）及两个）及两个伪决定系数。伪决定系数。结果分析结果分析第24页，共55页，编辑于2022年，星期六逐步回归逐步回归结果分析结果分析第25页，共55页，编辑于2022年，星期六逐步回归逐步回归结果分析结果分析 输出了尚不在模型中的自变量是否能被引入的输出了尚不在模型中的自变量是否能被引入的ScoreScore检验结果，检验结果，这里只给出第一步的结果。这里只给出第一步的结果。第26页，共55页，编辑于2022年，星期六对数似然值与伪决定系数对数似然值与伪决定系数模型预测正确率模型预测正确率ROCROC曲线曲线模型拟合效果检验模型拟合效果检验 拟合效果判断指标：拟合效果判断指标：第27页，共55页，编辑于2022年，星期六对数似然值与伪决定系数：对数似然值与伪决定系数：对数似然值与伪决定系数：对数似然值与伪决定系数：-2 倍对数似然值表示模型的拟合效果，其值越小，越接近于倍对数似然值表示模型的拟合效果，其值越小，越接近于0，说明，说明模型拟合效果越好。模型拟合效果越好。但是，当自变量中存在缺失值时，因为一般统计软件在进行计算时会把但是，当自变量中存在缺失值时，因为一般统计软件在进行计算时会把含有缺失值的记录予以剔除，不参与统计分析，此时不能用含有缺失值的记录予以剔除，不参与统计分析，此时不能用-2log likelihood 对不同模型的拟合效果进行比较。对不同模型的拟合效果进行比较。模型拟合效果检验模型拟合效果检验第28页，共55页，编辑于2022年，星期六模型预测正确率：模型预测正确率：模型预测正确率：模型预测正确率：例例3进行逐步回归的第三步（进行逐步回归的第三步（step3）输出以上结果，预测正确）输出以上结果，预测正确的记录占的记录占71.4。模型拟合效果检验模型拟合效果检验第29页，共55页，编辑于2022年，星期六ROC曲线：曲线：Save子对话框子对话框模型拟合效果检验模型拟合效果检验先先保保存存研研究究对对象象的预测概率。的预测概率。第30页，共55页，编辑于2022年，星期六模型拟合效果检验模型拟合效果检验第31页，共55页，编辑于2022年，星期六模型拟合效果检验模型拟合效果检验第32页，共55页，编辑于2022年，星期六模型拟合效果检验模型拟合效果检验 这就是这就是ROCROC曲线，曲线，预测预测效果最佳时，曲线应该效果最佳时，曲线应该从左下角垂直上升至顶，从左下角垂直上升至顶，然后水平向右延伸到右然后水平向右延伸到右上角。上角。结果分析结果分析第33页，共55页，编辑于2022年，星期六模型拟合效果检验模型拟合效果检验结果分析结果分析 本表是对本表是对ROCROC曲线下面积计算的结果，可见曲线下面积为曲线下面积计算的结果，可见曲线下面积为0.7080.708，9595可信区间为可信区间为0.6240.624 0.7920.792。第34页，共55页，编辑于2022年，星期六模型拟合优度检验（模型拟合优度检验（Test of Goodness Fit）：）：考察当前模型是否可以进一步改善，检验当前模型与饱和模型的考察当前模型是否可以进一步改善，检验当前模型与饱和模型的预测效果之差是否有统计学意义。预测效果之差是否有统计学意义。拟合优度检验拟合优度检验第35页，共55页，编辑于2022年，星期六 Pearson 和和Deviance 拟合优度检验：拟合优度检验：当自变量很多，或包含连续性自变量时，不可以用这两种方法。当自变量很多，或包含连续性自变量时，不可以用这两种方法。似然比检验：似然比检验：主要用于考察饱和模型是否可以进一步简化。主要用于考察饱和模型是否可以进一步简化。HosmerLemeshow检验检验：通常用于自变量很多，或包含连续性自变量的情况。通常用于自变量很多，或包含连续性自变量的情况。拟合优度检验拟合优度检验 模型拟合优度检验的常用方法：模型拟合优度检验的常用方法：第36页，共55页，编辑于2022年，星期六点击主对话框中的点击主对话框中的options按钮，出现如下所示的对话框：按钮，出现如下所示的对话框：拟合优度检验拟合优度检验第37页，共55页，编辑于2022年，星期六拟合优度检验拟合优度检验结果分析结果分析第38页，共55页，编辑于2022年，星期六用用save子对话子对话框可以保存各种框可以保存各种残差；残差；如果残差的绝如果残差的绝对值大于对值大于2，提示，提示该记录可能是异常该记录可能是异常点。点。Save子对话框子对话框模型的诊断与修正模型的诊断与修正 残差分析残差分析第39页，共55页，编辑于2022年，星期六多重共线性的对偏回归系数的影响与线性回归模型中的表现一致，如增多重共线性的对偏回归系数的影响与线性回归模型中的表现一致，如增加或删除一条记录，模型中偏回归系数值发生较大变化，专业上认为有加或删除一条记录，模型中偏回归系数值发生较大变化，专业上认为有意义的因素无统计学意义等等。意义的因素无统计学意义等等。如果在进行如果在进行logisticlogistic模型分析中，尤其是在向模型中引入交互作用模型分析中，尤其是在向模型中引入交互作用项时出现了回归结果反常现象，则自变量之间的多重共线性是需要项时出现了回归结果反常现象，则自变量之间的多重共线性是需要排除的一种可能。排除的一种可能。模型的诊断与修正模型的诊断与修正 多重共线性的识别：多重共线性的识别：第40页，共55页，编辑于2022年，星期六目前目前SPSSSPSS的的logisticlogistic过程中尚没有关于多重共线性诊断过程中尚没有关于多重共线性诊断的结果输出，代替方法之一是运用相同的反应变量与自变的结果输出，代替方法之一是运用相同的反应变量与自变量，拟合线性回归模型，并进行相应的共线性诊断。量，拟合线性回归模型，并进行相应的共线性诊断。模型的诊断与修正模型的诊断与修正 多重共线性的识别：多重共线性的识别：第41页，共55页，编辑于2022年，星期六匹匹配配设设计计（matched design）是是在在设设计计阶阶段段控控制制混混杂杂因因素素的的一一种种方方法法。当当得得到到一一名名研研究究病病例例后后，选选择择一一名名或或多多名名非非病病例例作作为为对对照照，选选择择相相应应对对照照的的条条件件是是：某某些些需需要要控控制制的的混混杂杂因因素素与与该该病病例例之之间间相相同同或或相相似似，从从而而形形成成一一个个匹匹配配的的对对子子。一一个个匹匹配配的的对对子子可可以以只只有有 1个个病病例例和和1个个对对照照，称称1：1匹匹配配；当当病病例例很很罕罕见见时时，常常采采用用 1个个病病例例，多多个个对对照照，此此时时称称为为1：m匹匹配配，常常用用的的 m一一般般小小于于等等于于4，不不同同的的对对子子，m可可以以不不同同；还还可可设设计计m：n匹匹配配，即即不不同同对对子子的的病病例例与与对对照照个个数数均均可可不不同，这样的设计增加了收集资料的灵活性。同，这样的设计增加了收集资料的灵活性。条件条件logistic回归回归简介简介第42页，共55页，编辑于2022年，星期六对于这类匹配设计资料，如果采用以上介绍的非条件对于这类匹配设计资料，如果采用以上介绍的非条件 logisticlogistic回归方法，将会降低检验效能。而应当采用回归方法，将会降低检验效能。而应当采用条条件件logisticlogistic回归模型回归模型（conditional logistic conditional logistic regression modelregression model）又称配对又称配对logisticlogistic回归模型进行分析。回归模型进行分析。条件条件logistic回归回归简介简介第43页，共55页，编辑于2022年，星期六 用变量差值拟合：用变量差值拟合：只适用于只适用于1：1配对的情况，用配对的情况，用Multinomial logistic 过程实现；过程实现；用分层用分层Cox模型拟合：适用范围非常广。模型拟合：适用范围非常广。条件条件logistic回归回归 SPSS SPSS中的拟合方法：中的拟合方法：第44页，共55页，编辑于2022年，星期六例例4 Mack等人预考察服用雌激素与患子宫内膜癌的关系，对退等人预考察服用雌激素与患子宫内膜癌的关系，对退休居住在社区的妇女进行病例对照研究。除服用雌激素以外，研休居住在社区的妇女进行病例对照研究。除服用雌激素以外，研究的自变量还包括肥胖、胆囊病史、服用其他非雌激素药物。数究的自变量还包括肥胖、胆囊病史、服用其他非雌激素药物。数据见据见1_1_logistic.sav。条件条件logistic回归回归实例分析实例分析第45页，共55页，编辑于2022年，星期六compute case=case1-pute age=age1-pute est=est1-pute gall=gall1-pute nonest=nonest1-nonest2.execute.由于本例是由于本例是1：1配对，可以使用变量差值方式加以拟合。配对，可以使用变量差值方式加以拟合。首先运用首先运用compute过程产生配对过程产生配对logistic回归的分析变量，或用以回归的分析变量，或用以下程序予以实现：下程序予以实现：条件条件logistic回归回归实例分析实例分析第46页，共55页，编辑于2022年，星期六条件条件logistic回归回归实例分析实例分析第47页，共55页，编辑于2022年，星期六条件条件logistic回归回归实例分析实例分析 把自变量全部选把自变量全部选入入CovariateCovariate框，不框，不能选入能选入factorfactor框！框！第48页，共55页，编辑于2022年，星期六默认情况下该复选默认情况下该复选框选中，应该去除框选中，应该去除该复选框该复选框条件条件logistic回归回归实例分析实例分析第49页，共55页，编辑于2022年，星期六条件条件logistic回归回归结果分析结果分析 这这是是系系统统给给出出的的警警告告，说说明明由由于于反反应应变变量量只只有有一一个个水水平平，因因此此S S P P S S S S将将 拟拟 合合 条条 件件l l o o g g i i s s t t i i c c回回 归归 模模 型型。第50页，共55页，编辑于2022年，星期六结果分析结果分析条件条件logistic回归回归 对模型中所有对模型中所有偏回归系数是否均为偏回归系数是否均为0进行似然比检验，进行似然比检验，结果说明他们不全为结果说明他们不全为0。第51页，共55页，编辑于2022年，星期六结果分析结果分析条件条件logistic回归回归 输出了输出了三种伪决三种伪决定系数，本例的伪定系数，本例的伪决定系数还比较大。决定系数还比较大。第52页，共55页，编辑于2022年，星期六结果分析结果分析条件条件logistic回归回归 输输出出从从模模型型中中分分别别剔剔除除每每一一自自变变量量后后拟拟合合新新的的条条件件l lo og gi is st ti ic c回回归归模模型型的的-2 2倍倍似似然然对对数数值值，用用于于考考察察是是否否可可以以从从当当前前模模型型中中剔剔除除该该自自变变量量，提提示示可可以以进进一一步步采采用用逐逐步步回回归归对对当当前前模模型型中中自自变变量量进进行行筛筛选选。第53页，共55页，编辑于2022年，星期六结果分析结果分析条件条件logistic回归回归 可见，服用雌激素者患子宫内膜癌的概率是未服用雌激素者的可见，服用雌激素者患子宫内膜癌的概率是未服用雌激素者的14.85114.851倍，有胆囊病史者患子宫内膜癌的概率是没有胆囊病史者倍，有胆囊病史者患子宫内膜癌的概率是没有胆囊病史者的的6.2706.270倍，但倍，但P P=0.042=0.042，下结论要小心，可以扩大样本含量再，下结论要小心，可以扩大样本含量再对这一因素进行研究。对这一因素进行研究。第54页，共55页，编辑于2022年，星期六在在SPSS中用中用Multinomial Logistic 过程处理配对过程处理配对logistic回归模型时，回归模型时，注意注意注意注意：数据库结构与运用数据库结构与运用Cox过程不同。数据库中每一条记录包括一个过程不同。数据库中每一条记录包括一个对子中的两个观察对象。对子中的两个观察对象。所拟合的模型不能包含常数项！所拟合的模型不能包含常数项！条件条件logistic回归回归第55页，共55页，编辑于2022年，星期六