线性回归计算方法及公式ppt课件.ppt

《线性回归计算方法及公式ppt课件.ppt》由会员分享，可在线阅读，更多相关《线性回归计算方法及公式ppt课件.ppt（35页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统多元线性回归 多元线性回归是简单线性回归的直接推广，其包含一个因变量和二个或二个以上的自变量。简单线性回归是研究一个因变量（Y）和一个自变量（X）之间数量上相互依存的线性关系。而多元线性回归是研究一个因变量（Y）和多个自变量（Xi）之间数量上相互依存的线性关系。简单线性回归的大部分内容可用于多元回归，因其基本概念是一样的。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，

2、因此，篮球比赛的计时计分系统是一种得分类型的系统内容安排多元线性回归模型与参数估计回归方程和偏回归系数的假设检验标准化偏回归系数和确定系数多元回归分析中的若干问题回归分析中自变量的选择多元线性回归分析的作用篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统多元线性回归模型与参数估计 设有自变量x1,x2,xp和因变量Y 以及一份由n个个体构成的随机样本(x1i,x2i,xpi,，Yi），且有如下关系：y=B0+B1x1+B2x2+Bp xp+(模型）B0、B1、B2和Bp为待估参数，为残差。由一组样本数据，可求出等估参数的估计值b0、b

3、1、b2和bp,，得到如下回归方程：i=b0+b1x1+b2x2+bp xp 由此可见，建立回归方程的过程就是对回归模型中的参数（常数项和偏回归系数）进行估计的过程。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统参数的最小二乘估计 与简单回归类似，我们寻求参数B0、B1、B2和Bp的适宜估计数值b0、b1、b2和bp,，使实际观察值和回归方程估计值之间残差平方和最小，即 Q(yi i)2=(yi b0b1x1ib2x2ibp xp i)2 对b0、b1、bp分别求偏导数，今偏导数为零可获得P 1个正规方程，求解正规方程可得待估参数值

4、。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统回归方程和偏回归系数的假设检验回归方程的假设检验：建立回归方程后，须分析应变量Y 与这p个自变量之间是否确有线性回归关系，可用F 分析。H0：B1B2.=Bp=0 H1：H0不正确 0.05 F MS回归/MS误差 MS回归 SS回归p SS回归=bjLjy(j=1,2.,P)MS误差 SS误差(n-p-1)SS误差为残差平方和 篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统偏回归系数的假设检验 回归方程的假设检验若拒绝H0

5、，则可分别对每一个偏回归系数bj 作统计检验，实质是考察在固定其它变量后，该变量对应变量 Y 的影响有无显著性。H0：Bj=0 H1：Bj不为零 0.05 F（Xj 的偏回归平方和1）/MS误差 Xj 的偏回归平方和：去Xj后回归平方和的减少量 若H0成立，可把Xj从回归方程中剔除，余下变量重新构建新的方程。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统标准化偏回归系数和确定系数 标准化偏回归系数：在比较各自变量对应变量相对贡献大小时，由于各自变量的单位不同，不能直接用偏回归系数的大小作比较，须用标准化偏回归系数。bj=bj(sj/

6、sy)篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统确定系数：简记为R2，即回归平方和SS回归与总离均差平方和SS总的比例。R2 SS回归 SS总 可用来定量评价在Y 的总变异中，由P 个X 变量建立的线性回归方程所能解释的比例。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统回归分析中的若干问题 资料要求：总体服从多元正态分布。但实际工作中分类变量也做分析。n足够大，至少应是自变量个数的5倍 分类变量在回归分析中的处理方法 有序分类：治疗效果：x=0(无效)x=1(有效)

7、x=2(控制)无序分类：有k类，则用k1变量（伪变量）篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 如职业,分四类可用三个伪变量：y1 y2 y3 工人 1 0 0 农民 0 1 0 干部 0 0 1 学生 0 0 0篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 多元线性回归方程的评价 评价回归方程的优劣、好坏可用确定系数R2和剩余标准差Sy,x1,2.p。Sy,x1,2.p SQRT（SS 误差n-p-1）如用于预测，重要的是组外回代结果。篮球比赛是根据运动队在规定

8、的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统回归方程中自变量的选择 多元线性回归方程中并非自变量越多越好，原因是自变量越多剩余标准差可能变大；同时也增加收集资料的难度。故需寻求“最佳”回归方程，逐步回归分析是寻求“较佳”回归方程的一种方法。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统选择变量的统计学标准 R2最大 R2 SS回归 SS总 adjR2最大：adjR21MS误差/MS总 Cp 值最小 Cp（n-p-1)(MS误差.p/MS误差.全部1）（p+1)篮球比赛是根据运动队在规定的比赛时间

9、里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统选择变量的方法 最优子集回归分析法：p个变量有2p1个方程 逐步回归分析向前引入法(forward selection)向后剔除法(backward selection)逐步引入剔除法(stepwise selection)H0：K 个自变 量为好 H1：K 1个自变量为好篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 向前引入法（forward selection)自变量由少到多一个一个引入回归方程。将 corr(y,xj)最大而又能拒绝H0者，最先引入方程，

10、余此类推。至不能再拒绝H0为止。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 向后剔除法（backward selection)自变量先全部选入方程，每次剔除一个使上述检验最不能拒绝H0者，直到不能剔除为止。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 逐步引入剔除法（stepwise selection)先规定两个阀值F引入和F剔除，当候选变量中最大F 值F引入时，引入相应变量；已进入方程的变量最小F F剔除时，剔除相应变量。如此交替进行直到无引入和无剔除为止。（计

11、算复杂）篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统多元线性回归方程的作用 因素分析 调整混杂因素的作用 统计预测篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统例：测量16名四岁男孩心脏纵径X1（CM）、心脏横径X2（CM）和心象面积Y（CM2）三项指标，得如下数据。试作象面积Y 对心脏纵径X1、心脏横径X2 多元线性回归分析。例：某科研协作组调查山西某煤矿2期高血压病患者40例，资料如下表，试进行影响煤矿工人2期高血压病病人收缩压的多元线性回归分析。篮球比赛是根据运动

12、队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统Logistic 回归篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 多元回归分析可用来分析多个自变量与一个因变量的关系，模型中因变量Y 是边连续性随机变量，并要求呈正态分布。但在医学研究中，常碰到因变量的取值仅有两个，如药物实验中，动物出现死亡或生存，死亡概率与药物剂量有关。设P 表示死亡概率，X 表示药物剂量，P 和X 的关系显然不能用一般线性回归模型P B0B1X 来表示。这时可用Logistic 回归分析。篮球比赛是根据运动队在规定的比

13、赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统内容安排 Logistic 回归模型 模型参数的意义 Logistic 回归模型的参数估计 Logistic 回归方程的假设检验 Logistic 回归模型中自变量的筛选 Logistic 回归的应用 篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统Logistic 回归模型 先引入Logistic 分布函数，表达式为：F（x)=ex/(1+ex)X 的取值在正负无穷大之间；F(x)则在01之间取值，并呈单调上升S 型曲线。人们正是利用Logistic 分布

14、函数这一特征，将其应用到临床医学和流行病学中来描述事件发生的概率。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 以因变量D 1表示死亡，D 0表示生存，以P（D 1X）表示暴露于药物剂量X 的动物死亡的概率，设 P（D 1X）e Bo+BX/(1+e Bo+BX)记Logit(P)=lnp/(1-p),则上式可表示为：Logit(P)Bo+BX 这里X 的取值仍是任意的，Logit(P)的值亦在正负无穷大之间，概率P 的数值则必然在01之间。p/(1-p)为事件的优势，Logit(P)为对数优势，故logistic 回归又称对数优

15、势线性回归篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 一般地，设某事件D 发生（D 1）的概率P 依赖于多个自变量（x1,x2,xp)，且 P（D 1）e Bo+B1X1+BpXp/(1+e Bo+B1X1+BpXp)或 Logit(P)Bo+B1X1+Bp X p则称该事件发生的概率与变量间关系符合多元Logistic 回归或对数优势线性回归。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 logistic 回归模型参数的意义 优势比（odds ratio,OR)：

16、暴露人群发病优势与非暴露人群发病优势之比。P(1)/1-p(1)OR=P(0)/1-p(0)Ln(oR)=logitp(1)-logitp(0)=(B0+B1)(B0+B0)=B 可 见B 是 暴 露 剂 量 增 加 一 个 单 位 所 引 起 的 对 数 优 势 的 增量，或 单 位 暴 露 剂 量 与 零 剂 量 死 亡 优 势 比 的 对 数。eB就是 两 剂 量 死 亡 优 势 比。常 数 项B0是 所 有 变 量X 等 于 零 时事件发生优势的对数。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统Logistic 回归的参数

17、估计 Logistic 回归模型的参数估计常用最大似然法，最大似然法的基本思想是先建立似然函数或对数似然函数，似然函数或对数似然函数达到极大时参数的取值，即为参数的最大似然估计值。其步骤为对对数似然函数中的待估参数分别求一阶偏导数，令其为0得一方程组，然后求解。由于似然函数的偏导数为非线性函数，参数估计需用非线性方程组的数值法求解。常用的数值法为Newton-Raphson 法。不同研究的设计方案不同，其似然函数的构造略有差别，故Logistic 回归有非条件Logistic 回归与条件Logistic 回归两种。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时

18、计分系统是一种得分类型的系统Logistic 回归的假设检验1、拟合优度检验：目的是检验模型估计值与实际观察值的符合程度。SAS 程序提供了下列统计量。A、AIC 和SC：对同一份资料，在模型比较中，这两个越小，表明模型越合适。B、2LogL：用于检验全部自变量（协变量）的联合作用。如显著，表明全部协变量的联合作用显著；如不显著，表明全部协变量的联合作用不大，可予忽视。C、Score：用于检验全部协变量联合作用的显著性，但不包截距项。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统2、偏回归系数的显著性检验：目的是检验回归模型中自变量

19、的系数是否为零，等价于总体优势比OR 是否为零。H0：B 等于零 H1：B 不等于零A、wald 检验：B、Score test:C、likelihood ratio test(wald chi-square test):篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统回归模型中自变量的筛选 和多元线性回归分析一样，在Logistic 回归分析中也须对自变量进行筛选。方法和多元线性回归中采用的方法一样，有向后剔除法、向前引入法及逐步筛选法三种。筛选自变量的方法有wald 检验、Score test、likelihood ratio t

20、est(wald chi-square test)三种。篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统Logistic 回归的应用 筛选危险因素 校正混杂因素 预测与判别篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统例1：在饮酒与食道癌的成组病例对照研究中，共有200例食道癌患者和774例非食道癌对照，年龄是混杂因素，按年龄分层后资料如下：age 对象（1=病例 0=对照）饮酒 不饮酒 合计 OR 2534 1 1 0 1 0 9 106 115 35-44 1 4 5

21、9 5.05 0 26 164 19045-54 1 25 21 46 5.67 0 29 138 16755-64 1 42 34 76 6.36 0 27 138 16565-74 1 19 36 55 2.58 0 18 88 10675-1 5 8 13 0 0 31 31 篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 例2：研究女生月经初潮与体质关系的调查中，某地调查了23名1115 岁女生的月经和体质情况，脉搏X1 为30秒脉搏数，体重X2 单位为公斤，年龄X3 单位为岁。月经Y 为0表示未来月经，1表示已来月经。试用

22、非条件Logistic 回归进行分析。（X1=40 X2=40 X3=13 p=0.92;X1=39 X2=35 X3=11 p=0.23)篮球比赛是根据运动队在规定的比赛时间里得分多少来决定胜负的，因此，篮球比赛的计时计分系统是一种得分类型的系统 例3：在研究新生儿出生时体重、妊娠周数与支气管肺的发育不良病（BPD）的关系时，得下表资料。出生时体重（组中值）妊娠周数 观察人数 患BPD 人数 birth weight age n BPD 750 27 41 33 750 29.5 21 15 750 32 6 1 1150 27 17 7 1150 29.5 36 7 1150 32 27 4 1550 27 0 0 1550 29.5 16 4 1550 32 59 5