第十二讲多重线性回归课件.ppt

《第十二讲多重线性回归课件.ppt》由会员分享，可在线阅读，更多相关《第十二讲多重线性回归课件.ppt（29页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第十二第十二讲多重多重线性回性回归第1页，此课件共29页哦第第10讲讲 非参数检验非参数检验 o概述概述o多重线性回归的应用以及注意事项多重线性回归的应用以及注意事项o多重线性回归的电脑实验多重线性回归的电脑实验2第2页，此课件共29页哦第第11讲讲 多重线性回归多重线性回归引言引言o在医药研究中，应变量的变化往往受到多个因素的影响，此时就需要用多重线性回归（Multiple Linear Regression），多重线性回归是直线回归的扩展。例如，人的体重与身高、胸围有关；人的心率与年龄、体重、肺活量有关。因此，采用两个或多个影响因素作为自变量(Xi)来解释应变量(Y)的变化，建立最优组合模

2、型来预测或估计因变量，比只用一个自变量进行预测或估计更有效，更符合实际。3第3页，此课件共29页哦第一节第一节 多重线性回归多重线性回归 一、一、多重线性回归模型多重线性回归模型 Y01X12X2mXme 二、多二、多重重线性回归的基本条件线性回归的基本条件 o多重线性回归模型的应用条件同直线回归，即线性（多重线性回归模型的应用条件同直线回归，即线性（linearitylinearity）、）、独立性（独立性（indepen-dencyindepen-dency）、正态性和方差齐性（）、正态性和方差齐性（normal normal distribution and equal variance

3、distribution and equal variance）等条件，简记）等条件，简记LINELINE。还要。还要注意个自变量间不能存在多重共线性。注意个自变量间不能存在多重共线性。4第4页，此课件共29页哦三、多重线性回归分析的步骤5第5页，此课件共29页哦四、多重共线性问题四、多重共线性问题 如果一些自变量之间存在较强的线性关系，称多重如果一些自变量之间存在较强的线性关系，称多重共线性。判断多重共线有相关系数、容忍度、方差膨胀共线性。判断多重共线有相关系数、容忍度、方差膨胀因子等指标。因子等指标。一般来说，相关系数一般来说，相关系数r0.8的变量可能存在共线问题，的变量可能存在共线问题

4、，r0.9的变量存在共线。的变量存在共线。容忍度容忍度=1R2，愈小说明共线问题愈严重，如果某，愈小说明共线问题愈严重，如果某个自变量的容忍度个自变量的容忍度0.1，共线问题严重。，共线问题严重。方差膨胀因子方差膨胀因子=容忍度的倒数，愈大说明共线问容忍度的倒数，愈大说明共线问题愈严重。题愈严重。消除多重共线性的方法有多种，如岭回归、主成分回消除多重共线性的方法有多种，如岭回归、主成分回归等。归等。6第6页，此课件共29页哦五、多重回归的样本含量五、多重回归的样本含量 只要例数只要例数n多于自变量个数多于自变量个数m即可，一般要求即可，一般要求n为为m的的5倍以上。倍以上。六、多重回归的检验六

5、、多重回归的检验 多元线性回归方程的假设检验：多元线性回归方程的假设检验：对整个方程的综对整个方程的综合检验，即对回归方程的线性假设检验；合检验，即对回归方程的线性假设检验；对每一个自对每一个自变量的检验，即对每个偏回归系数的假设检验。变量的检验，即对每个偏回归系数的假设检验。7第7页，此课件共29页哦 回归方程的方差分析回归方程的方差分析剩余标准差剩余标准差 剩余标准差的平方是残差的方差，又称均方误差，剩余标准差的平方是残差的方差，又称均方误差，记为记为MSE，其值越小越好，其值越小越好（2）偏回归系数的假设检验偏回归系数的假设检验 分别考察每一个自变量分别考察每一个自变量 xi 与应变量与

6、应变量 Y 是否都有直是否都有直线回归关系线回归关系 8第8页，此课件共29页哦R2SS回回/SS总总 校正决定系数是衡量方程校正决定系数是衡量方程好坏的常用指标之一好坏的常用指标之一 七、决定系数七、决定系数八、标准化偏回归系数八、标准化偏回归系数 9第9页，此课件共29页哦九、残差分析九、残差分析 10第10页，此课件共29页哦11第11页，此课件共29页哦o资料不满足其条件时，常用的处理方法有：修改模型或者采用曲线拟合；变量变换，常用的变量变换有对数变换、平方根变换、倒数变换等。变量变换对自变量或（和）应变量均适宜；如果方差不齐，可采用加权最小二乘法估计偏回归系数。12第12页，此课件共

7、29页哦 （1）分析因素的相对重要性，找出对因变量最大）分析因素的相对重要性，找出对因变量最大的关键因素。的关键因素。（2）同时调整多个混杂因素的作用（类似多元协方）同时调整多个混杂因素的作用（类似多元协方差分析调整多个混杂因素的作用）。差分析调整多个混杂因素的作用）。（3）估计与预测，用较易测量的多个自变量来估）估计与预测，用较易测量的多个自变量来估计难以测得应变量总体均数计难以测得应变量总体均数Y或预测个体或预测个体Y值。值。（4）多重回归分析是进一步学习）多重回归分析是进一步学习logistic回归、判别回归、判别分析、分析、主成分分析、主成分分析、因子分析等多元统计分析方法的因子分析等

8、多元统计分析方法的基础。基础。十一、十一、筛筛选自变量方法选自变量方法十、多元回归分析的应用十、多元回归分析的应用 13第13页，此课件共29页哦 （1）全局择优法：）全局择优法：m 个自变量的不同组合共有个自变量的不同组合共有 2m-1 种，分别建立回归方程进行比较后择优。择优的准则有多种，种，分别建立回归方程进行比较后择优。择优的准则有多种，准则不同，准则不同，筛筛选的结果可能不同。如果用最大校正决定系数选的结果可能不同。如果用最大校正决定系数准则，则挑选校正决定系数准则，则挑选校正决定系数R2a最大者来获得最大者来获得“最优子集最优子集”的回归方程。的回归方程。SPSS为为Enter法。

9、法。（2）逐步逐步选择选择法法：备选自变量较多时，全局择优的计备选自变量较多时，全局择优的计算量非常大，算量非常大，用用逐步逐步回归回归法法选择可减少计算量。常用逐步选择可减少计算量。常用逐步（Stepwise）、向前（）、向前（Forward）、向后（）、向后（Backward）法。向后法考虑了自变量的组合作用，但变量数不能太多。法。向后法考虑了自变量的组合作用，但变量数不能太多。3种逐步回归方法选中的自变量不一定相同。种逐步回归方法选中的自变量不一定相同。逐步回归得逐步回归得到只是局部最优到只是局部最优，不一定是全局最优回归方程。，不一定是全局最优回归方程。14第14页，此课件共29页哦

10、将自变量的交互项引入方程进行检验分析。将自变量的交互项引入方程进行检验分析。十二、自变量间交互作用的分析十二、自变量间交互作用的分析 【例例17-1】大白鼠作受试对象，分析乌头碱不同注射大白鼠作受试对象，分析乌头碱不同注射速度速度x1、常咯啉的不同剂量、常咯啉的不同剂量x2，大鼠体重，大鼠体重 x3与应变量延与应变量延缓心律失常发生的时间缓心律失常发生的时间Y的关系。的关系。编号123456789101112131415X14.85.67.14.92.66.65.25.54.76.85.42.94.03.13.1X20.080.070.010.070.110.110.070.110.030.0

11、10.020.210.010.110.10X3230260252229220247233222206244222226234212212Y19.115.714.919.020.917.519.221.820.514.518.623.216.822.721.915第15页，此课件共29页哦 【SPSS操作操作】以以X1、X2、X3、Y为变量名建立数据文件为变量名建立数据文件L17-1.SAV。Data ViewVariable View16第16页，此课件共29页哦AnalyzeRegressionLinear.Y选选Dependent框、框、X1、X2、X3选选Independent框。框。M

12、ethod框选框选Stepwise。17第17页，此课件共29页哦 校正决校正决定系数定系数R2a=0.968，拟合，拟合效果好。效果好。第第2步回归的步回归的F=209.539，P=0.000，故线，故线性回归模型有性回归模型有统计学意义。统计学意义。18第18页，此课件共29页哦共线性诊断大鼠体重和常咯啉剂量的容忍度都为共线性诊断大鼠体重和常咯啉剂量的容忍度都为0.940,方方差膨胀因子都为差膨胀因子都为1.064,可认为不存在共线问题。建立线性可认为不存在共线问题。建立线性回归方程为回归方程为 Y=45.110+28.844常咯啉剂量常咯啉剂量0.123大鼠体重大鼠体重 大鼠体重、常咯啉

13、剂量的标准回归系数分别为大鼠体重、常咯啉剂量的标准回归系数分别为-0.682、0.564。可见对延缓心律失常时间影响的重要性大鼠。可见对延缓心律失常时间影响的重要性大鼠体重大于常咯啉剂量。体重大于常咯啉剂量。19第19页，此课件共29页哦因主要考察因素因主要考察因素x1未进入方程，分析未进入方程，分析自变量间的交互作自变量间的交互作用，用，Transform Compute，计算，计算X12、X13、X23。将将X1,*,X2送送Numeric Expression,X12送送Target Variable20第20页，此课件共29页哦Transform Compute，计算，计算X12、X1

14、3、X23。21第21页，此课件共29页哦用原变量连用原变量连同交互作用同交互作用变量建立回变量建立回归方程归方程:X12、X13、X23送送IndependentMethod选选EnterOK22第22页，此课件共29页哦3个变量个变量3个交互作用变量共个交互作用变量共6个自变量，不同组合有个自变量，不同组合有26-1=63种，种，Method框选框选Ente，建立的，建立的63个回归方程中，个回归方程中，R2a=0.980最大最大方差分析方差分析F值值63.724,方程有统计学意义方程有统计学意义23第23页，此课件共29页哦最优方程：最优方程：Y=28.793+1.795x1+130.8

15、91x2-0.048x3+3.188 x12-0.009 x13-0.502x23。x2标化系数标化系数=2.561 最大，常咯啉剂量最大，常咯啉剂量对延缓心律失常发生时间作用最大。对延缓心律失常发生时间作用最大。x23标化偏回归系数标化偏回归系数=-2.213绝对值第二大，常咯啉剂量与大鼠体重的交互效应对绝对值第二大，常咯啉剂量与大鼠体重的交互效应对延缓心律失常发生时间产生负面影响不可勿视。延缓心律失常发生时间产生负面影响不可勿视。24第24页，此课件共29页哦 （1）二分类自变量二分类自变量常采用常采用0、1赋值赋值方法。如，用方法。如，用X代表性别：代表性别：X=0为女，为女，X=1为男

16、，或者用为男，或者用X=1为女，为女，X=0为男。为男。十三、分类变量赋值方法十三、分类变量赋值方法 （2）指标为无序）指标为无序 k类，定类，定义义k-1个二分类哑变量个二分类哑变量。例如，。例如，中医治崩漏，分肾虚、肝虚、中医治崩漏，分肾虚、肝虚、肝郁、血虚肝郁、血虚4型，只要用型，只要用 3 个个二二分类变量分类变量X1，X2，X3就能标记就能标记这这4个类别。个类别。崩漏分型X1X2X3肾虚型100肝虚型010肝郁型001血虚型00025第25页，此课件共29页哦，（3）有序分类变量数量化方法：）有序分类变量数量化方法：对等级根据级别对等级根据级别大大小进行量化小进行量化后按连续变量处

17、理后按连续变量处理。例如，用。例如，用X1，2，3分别为表示病情分别为表示病情轻轻，中中，重重。用无序多分类变量设置用无序多分类变量设置哑哑变量的方法变量的方法。采用哪种方法更好要视具体情况而定。采用哪种方法更好要视具体情况而定。第二节第二节 多元相关分析多元相关分析 一、多元相关分析的统计量一、多元相关分析的统计量 26第26页，此课件共29页哦1.简单相关系数简单相关系数 rij，简记为，简记为r 2.偏相关系数偏相关系数偏相关系数偏相关系数rij表示其他变量固定不变条件下，变量表示其他变量固定不变条件下，变量Xi与与Xj之间相关程度与方向的真实情况之间相关程度与方向的真实情况 3.复相关

18、系数复相关系数复相关系数复相关系数R是多个自变量共同对因变量直线相关程度的统是多个自变量共同对因变量直线相关程度的统计指标，是相关与回归联系起来的统计量计指标，是相关与回归联系起来的统计量 27第27页，此课件共29页哦二、多元相关的假设检验二、多元相关的假设检验【例例17-2】用表用表17-1资料计算乌头碱注射速度资料计算乌头碱注射速度x1、常、常咯啉剂量咯啉剂量x2、大鼠体重、大鼠体重x3对延缓心律失常发生时间对延缓心律失常发生时间Y的的影响影响4个变量的简单相关系数、偏相关系数，并作假个变量的简单相关系数、偏相关系数，并作假设检验。设检验。【SPSS操作操作】文件文件L17-1.sav Analyze CorrelatePartial，28第28页，此课件共29页哦x1、Y选入选入Variables框，框，x2、x3选入选入Controlling for框框,Options,选选 Zero-order correlations，Continue，OK。29第29页，此课件共29页哦