简单回归分析精选文档.ppt

《简单回归分析精选文档.ppt》由会员分享，可在线阅读，更多相关《简单回归分析精选文档.ppt（60页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、简单回归分析简单回归分析*本讲稿第一页，共六十页 第一节第一节 简单线形回归简单线形回归 第二节第二节 线形回归的应用线形回归的应用 主要内容主要内容*本讲稿第二页，共六十页学习目标学习目标 了解回归分析的基本思想。熟悉线性回归的基本步骤；求解回归方程中参数估计量a和b值所遵循的策略最小二乘原则。掌握简单线性回归的基本概念；回归模型的前提假设；回归系数的含义、计算方法及假设检验。*本讲稿第三页，共六十页教教 学学 重重 点点线性回归模型的前提假设线性回归分析的基本步骤回归方程的解释*本讲稿第四页，共六十页第第 一节一节简简 单单 线线 性性 回回 归归 Linear Regression An

2、alysis*本讲稿第五页，共六十页 为研究大气污染一氧化氮（NO）的浓度是否受到汽车流量、气候状况等因素的影响，选择24个工业水平相近的一个交通点，统计单位时间过往的汽车数（千辆），同时在低空相同高度测定了该时间段平均气温（）、空气湿度（）、风速（m/s）以及空气中一氧化氮（NO）的浓度（），数据如表10-1所示。【例例10.1】*本讲稿第六页，共六十页表10-1 24个城市交通点空气中NO浓度监测数据*本讲稿第七页，共六十页资料类型：定量资料；研究目的：了解一氧化氮浓度与汽车流量、气候状况等因素之间的依存关系。【案例解析案例解析】*本讲稿第八页，共六十页一、回归分析的基本概念回归（Regr

3、ession）1.变量间关系不能用函数关系精确表达2.2.一一个个变变量量的的取取值值不不能能由由另另一一个变量唯一确定个变量唯一确定3.3.当当变变量量 x 取某个值时，变量 y y 的取值可能有几个的取值可能有几个4.各观测点分布在直线周围各观测点分布在直线周围 *本讲稿第九页，共六十页 函数关系：它反映着现象之间严格的数量化依存关系，也称确定性的依存关系。如正方形的面积和边长的关系。回归关系：变量之间存在着不确定、不严格的依存关系，即对于一个变量的某个数值，可以有另一变量的若干数值与之相对应 在这种关系中，对于变量的每一个数值，都有一个或几个确定的值与之严格对应。*本讲稿第十页，共六十页

4、回归关系的几个例子回归关系的几个例子父亲身高y与子女身高x之间的关系收入水平y与受教育程度x之间的关系体重y与身高x1、胸围x2 之间的关系体表面积y与体重x之间的关系商品销售额y与广告费支出x之间的关系*本讲稿第十一页，共六十页回归分析（回归分析（回归分析（回归分析（Regression analysisRegression analysisRegression analysisRegression analysis）1.1.从一组样本数据出发，确定变量之间的数学关系式；从一组样本数据出发，确定变量之间的数学关系式；2.2.对对这这些些关关系系式式的的可可信信程程度度进进行行各各种种统统计计

5、检检验验，并并从从影影响响某一特定变量的诸多变量中找出具有统计学意义的变量；某一特定变量的诸多变量中找出具有统计学意义的变量；3.3.利利用用所所求求的的关关系系式式，根根据据一一个个或或几几个个变变量量的的取取值值来来预预测测或或控控制制另另一一个个特特定定变变量量的的取取值值，并并给给出出这这种种预预测测或或控控制制的精确程度。的精确程度。*本讲稿第十二页，共六十页自变量与因变量自变量与因变量a)自变量（自变量（independent variable)：b)能独立自由变化的变量能独立自由变化的变量c)一般用一般用X表示表示d)因变量（因变量（dependent variable)：e)非

6、独立的、受其它变量影响的变量非独立的、受其它变量影响的变量f)一般用一般用Y表示表示g)c）x与与y确定原则确定原则h)*本讲稿第十三页，共六十页回归模型分类回归模型分类 a)按变化趋势：按变化趋势：线性回归模型线性回归模型 非线性回归模型非线性回归模型b)按自变量个数：按自变量个数：简单线性回归模型简单线性回归模型 多重线性回归模型多重线性回归模型 *本讲稿第十四页，共六十页一元线性回归模型一元线性回归模型描述y 如何依赖于x 和误差项 的方程称为回归模型一元线性回归模型可表示为y 是 x 的线性函数(部分)加上误差项线性部分反映了由于 x 的变化而引起的 y 的变化误差项 是随机变量，反映

7、了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响，是不能由 x 和 y 之间的线性关系所解释的变异性0 和 1 称为模型的参数*本讲稿第十五页，共六十页二、简单线性回归分析二、简单线性回归分析回归模型的基本假设1.线性（linear)2.独立（independent)3.正态 (normal)4.等方差（equal variance)*本讲稿第十六页，共六十页线性（线性（linear)指反应变量Y的总体平均值与自变量X呈线性关系。独立（独立（independent)指任意两个观察值互相独立。正态正态 (normal)假定线性模型的误差项服从正态分布。等方差（等方差（equal va

8、riance)是指在自变量X取值范围内，不论X取什么值，Y都具有相同的方差。*本讲稿第十七页，共六十页 图1 回归模型前提假设示意图*本讲稿第十八页，共六十页u回归分析的方法步骤回归分析的方法步骤绘制散点图绘制散点图求回归系数和常数项求回归系数和常数项回归系数和常数项的假设检验回归系数和常数项的假设检验列出回归方程，并进行假设检验列出回归方程，并进行假设检验回归方程的解释回归方程的解释*本讲稿第十九页，共六十页（一）绘制散点图图2 车流量与空气中NO浓度关系散点图 从散点图可见：从散点图可见：车流量与空气中车流量与空气中NO浓度有线性关浓度有线性关系，可以考虑做线系，可以考虑做线性回归分析。性

9、回归分析。*本讲稿第二十页，共六十页（二）求回归系数和常数项（二）求回归系数和常数项*本讲稿第二十一页，共六十页系数估计公式：系数估计公式：回归方程：回归方程：*本讲稿第二十二页，共六十页*本讲稿第二十三页，共六十页本例中b=0.1584;a=-0.1353*本讲稿第二十四页，共六十页 参数参数参数参数 的意义：若自变量的意义：若自变量X增加增加1 1个单位，反应变量个单位，反应变量Y Y的平均值便增加的平均值便增加 个单位。个单位。个单位。个单位。=0，说明，说明，说明，说明Y与与X X之间并不存在线性关系；之间并不存在线性关系；之间并不存在线性关系；之间并不存在线性关系；0 0，说明，说明

10、Y Y与与与与X X之间存在线性关系。之间存在线性关系。之间存在线性关系。之间存在线性关系。理由：从理由：从理由：从理由：从=0=0的总体抽得样本，计算出的回归系数的总体抽得样本，计算出的回归系数的总体抽得样本，计算出的回归系数的总体抽得样本，计算出的回归系数b b很可很可很可很可能不为零。能不为零。能不为零。能不为零。方法：回归系数的假设检验可通过方法：回归系数的假设检验可通过方法：回归系数的假设检验可通过方法：回归系数的假设检验可通过t检验实现。检验实现。（三）回归系数和常数项的假设检验*本讲稿第二十五页，共六十页t检验检验*本讲稿第二十六页，共六十页*本讲稿第二十七页，共六十页（四）回归

11、方程的假设检验目的：检验求得的回归方程在总体中是目的：检验求得的回归方程在总体中是否成立；否成立；方法：单因素方差分析。方法：单因素方差分析。*本讲稿第二十八页，共六十页因变量 y 的取值是不同的，y 取值的这种波动称为变异。变异来源：因自变量因自变量 x 的取值不同造成的的取值不同造成的 除除 x x 以以外外的的其其他他因因素素(如如x x对y y的非线性影响、测量误差等)的影响的影响对一个具体的观测值来说，变异的大小可以通过该实际观测值与其均值之差 来表示u变异（变差）及其分解变异（变差）及其分解*本讲稿第二十九页，共六十页xyy y *本讲稿第三十页，共六十页SST=SSR+SSE总平

12、方和总平方和(SST)回归平方和回归平方和(SSR)残差平方和残差平方和(SSE)*本讲稿第三十一页，共六十页SST是指没有利用X的信息时，Y观察值的变异；SSE反应回归方程未能解释的那部分变异；SSR反应回归方程解释的那部分变异。决定系数(R2）=SSR/SST，反应了反应了Y Y的总变异中回归关系所能解释的百分比，R2越大，说明构构建的回归方程越好。建的回归方程越好。*本讲稿第三十二页，共六十页表3 简单线性回归模型方差分析表*本讲稿第三十三页，共六十页 查查F界值表，得界值表，得P0.05,说明构建的回说明构建的回归方程具有统计学意义。归方程具有统计学意义。研究表明，研究表明，车流量和空

13、气中车流量和空气中NO浓度浓度存在着线性依存关系：车流量每增加存在着线性依存关系：车流量每增加100辆（辆（0.1千辆）千辆）,空气中空气中NO浓度平均可能浓度平均可能增加增加0.01584（五）回归方程的解释*本讲稿第三十四页，共六十页线性回归分析的线性回归分析的SPSS过程：过程：Analyze Regression LinearDependent list框 YIndependent list框 X1OK*本讲稿第三十五页，共六十页线性回归分析的结果：线性回归分析的结果：*本讲稿第三十六页，共六十页第 二 节 线 形 回 归 的 应 用*本讲稿第三十七页，共六十页一、一、总体回归线的总体

14、回归线的95%置信带置信带 二、个体二、个体Y预测值的区间估计预测值的区间估计*本讲稿第三十八页，共六十页 一、一、总体回归线的总体回归线的95%置信带置信带*本讲稿第三十九页，共六十页 *本讲稿第四十页，共六十页二、个体Y预测值的区间估计 总体中，当XP为某一固定值时，个体Y值围绕着对应于XP值的总体均数波动，其分布的标准差按下式估计：*本讲稿第四十一页，共六十页即 *本讲稿第四十二页，共六十页 图5 空气中NO浓度（Y）与车流量（X）回归 线的95%置信带与Y个体值的95%预测带*本讲稿第四十三页，共六十页直线回归方程的应用直线回归方程的应用（一）定量描述两变量之间的依存关系。（一）定量描

15、述两变量之间的依存关系。（二）利用回归方程进行预测。（二）利用回归方程进行预测。（三）利用回归方程进行统计控制。（三）利用回归方程进行统计控制。*本讲稿第四十四页，共六十页简单线性回归分析的注意事项简单线性回归分析的注意事项 1.要注意实际意义；要注意实际意义；2.绘制散点图观察两变量的关系以及找绘制散点图观察两变量的关系以及找出异常点；出异常点；3.注意自变量和因变量的变化范围。注意自变量和因变量的变化范围。*本讲稿第四十五页，共六十页小结小结 相关分析是用来描述两变量的相关关系，当两变量满足双变量正态分布时，可以计算Pearson积差相关系数，如果有任何一个变量不满足正态分布或为等级资料，

16、需计算Pearson等级相关系数。而回归分析是用来刻画两变量的依存关系，它要求资料满足LINE（线性、独立、正态和等方差），二者之间既有联系又有区别。*本讲稿第四十六页，共六十页*本讲稿第四十七页，共六十页*本讲稿第四十八页，共六十页【案例讨论案例讨论】年龄与身高预测研究。某地调查了年龄与身高预测研究。某地调查了418418岁男孩与女孩身高，数据岁男孩与女孩身高，数据见下表，试描述男孩与女孩身高与年龄间的关系，并预测见下表，试描述男孩与女孩身高与年龄间的关系，并预测10.510.5岁、岁、16.516.5岁、岁、1919岁与岁与2020岁男孩与女孩的身高。岁男孩与女孩的身高。表表10-4 10

17、-4 某地男孩与女孩平均身高与年龄的调查数据某地男孩与女孩平均身高与年龄的调查数据*本讲稿第四十九页，共六十页采用采用采用采用SPSSSPSS对身高与年龄进行回归分析，结果如表对身高与年龄进行回归分析，结果如表对身高与年龄进行回归分析，结果如表对身高与年龄进行回归分析，结果如表10-510-5和表和表和表和表10-610-6所示。所示。所示。所示。表表10-5 10-5 男孩身高对年龄的简单线性回归分析结果男孩身高对年龄的简单线性回归分析结果估计值标准误tPconstant83.73631.882444.48390.0000age5.27480.167631.47980.0000*本讲稿第五十

18、页，共六十页估计值标准误tPconstant88.43263.280026.96110.0000age4.53400.292015.52900.0000表12-6 女孩身高对年龄的简单线性回归分析结果*本讲稿第五十一页，共六十页 经拟合简单线性回归模型，t检验结果提示回归方程有非常显著的统计学意义。结果提示，拟合效果非常好，故可认为：（1）男孩与女孩的平均身高随年龄年龄线性递增，年龄每增长1岁，男孩与女孩身高分别平均增加5.27，4.53，男孩生长速度快于女孩的生长速度。（2）依照回归方程预测该地男孩10.5、16.5、19和20岁的平均身高依次为139.12、170.77、183.96和18

19、9.23，该地女孩10.5、16.5、19和20岁的平均身高依次为136.04、163.24、174.58和179.11.*本讲稿第五十二页，共六十页 针对以上分析结果，请考虑：（1）分析过程是否符合回归分析的基本规范？（2）回归模型能反映数据的变化规律吗？（3）拟合结果和依据回归方程而进行的预测有问题吗？（4）男孩生长速度快于女孩生长速度的推断是否有依据？*本讲稿第五十三页，共六十页案例辨析案例辨析 未绘制散点图，盲目进行简单线性回归分析；若实际资料反映两变量之间呈现某种曲线变化趋势，用简单线性回归方程去描述其变化规律就是不妥当的。正确做法正确做法 分析策略：作散点图，选择曲线类型，合理选择

20、模型，统计预测。*本讲稿第五十四页，共六十页 图3 身高对年龄的不同曲线类型（女孩）（1）作散点图*本讲稿第五十五页，共六十页图图4 4 身高对年龄的不同曲线类型（男孩）身高对年龄的不同曲线类型（男孩）*本讲稿第五十六页，共六十页由图3，4 可见，随着年龄的增加，身高也增加，但呈曲线变化趋势，1516岁后，增加趋势逐渐趋于平缓。因此适合于拟合曲线回归方程。（2）选择曲线类型，进行统计分析,几种曲线方程拟合结果如下。*本讲稿第五十七页，共六十页结果摘要：（1）模型参数估计Dependent Variable:男孩身高The independent variable is 年龄。*本讲稿第五十八页，共六十页（3）选择合理的模型，列出回归方程。）选择合理的模型，列出回归方程。（4）统计预测。）统计预测。*本讲稿第五十九页，共六十页思考题思考题1应用直线回归和相关分析时应注意哪些问题？2简述线性回归分析与线性相关的区别与联系。3.举例说明如何利用回归方程进行统计预测和控制。4.回归分析时怎样确定因变量与自变量？*本讲稿第六十页，共六十页