相关与回归精品文稿.ppt

《相关与回归精品文稿.ppt》由会员分享，可在线阅读，更多相关《相关与回归精品文稿.ppt（51页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、相关与回归第1页，本讲稿共51页第一节 相关分析概述一、函数关系与相关关系一、函数关系与相关关系正方形面积与边长；脚长与智商；销售收入和消费正方形面积与边长；脚长与智商；销售收入和消费情况；广告投入与销售收入；情况；广告投入与销售收入；GDPGDP与精神病患者；头发长与精神病患者；头发长与见识短与见识短1.1.函数关系：函数关系：变量之间存在严格的数量关系。变量之间存在严格的数量关系。2.2.相关关系：相关关系：变量之间存在不确定的依存关系。变量之间存在不确定的依存关系。第2页，本讲稿共51页二、分类二、分类1.1.按相关关系涉及的变量多少划分：单相关、复相关、按相关关系涉及的变量多少划分：单

2、相关、复相关、偏相关。偏相关。2.2.按相关形式划分：线性相关和曲线相关。按相关形式划分：线性相关和曲线相关。3.3.按相关的方向划分：正相关和负相关。按相关的方向划分：正相关和负相关。4.4.按相关关系的程度划分：完全相关，不完全相关和按相关关系的程度划分：完全相关，不完全相关和不相关。不相关。5.5.按相关性质分为：真实相关和虚假相关。按相关性质分为：真实相关和虚假相关。二、相关关系的种类二、相关关系的种类第3页，本讲稿共51页相关分析：研究变量之间相关方向和相关密相关分析：研究变量之间相关方向和相关密切程度的统计分析方法。切程度的统计分析方法。（1 1）确定现象之间有无相关关系，以及相关

3、）确定现象之间有无相关关系，以及相关关系的表现形态关系的表现形态（2 2）确定相关关系的密切程度）确定相关关系的密切程度（3 3）建立合适的数学模型）建立合适的数学模型（4 4）测定估计值的可靠程度）测定估计值的可靠程度 三、相关分析的内容三、相关分析的内容第4页，本讲稿共51页定性分析定性分析依据研究者的理论知识和实践经验，依据研究者的理论知识和实践经验，对客观现象之间是否存在相关关系，对客观现象之间是否存在相关关系，以及何种关系作出判断。以及何种关系作出判断。定量分析定量分析在定性分析的基础上，通过编制在定性分析的基础上，通过编制相关相关表表、绘制、绘制、绘制、绘制相关图相关图、计算、计算

4、相关系数相关系数等方等方法，来判断现象之间相关的方向、法，来判断现象之间相关的方向、形态及密切程度。形态及密切程度。第二节 相关关系的测定第5页，本讲稿共51页一、相关图：又称散点图。将一、相关图：又称散点图。将x x置于横轴上，置于横轴上，y y置于纵轴置于纵轴上，将（上，将（x,yx,y）绘于坐标图上。）绘于坐标图上。用来反映两变量之间相关关用来反映两变量之间相关关系的图形。系的图形。第6页，本讲稿共51页二、相关系数二、相关系数(一一)相关系数的定义相关系数的定义1 1、相关系数：在线性条件下说明两个变量之间相关关、相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标。系

5、密切程度的统计分析指标。第7页，本讲稿共51页2 2、相关系数、相关系数r r的取值范围：的取值范围：-1r1-1r10|r|10|r|1表示存在不同程度线性相关：表示存在不同程度线性相关：表示存在不同程度线性相关：表示存在不同程度线性相关：|r|0 为正相关，为正相关，r 0 为负相关；为负相关；|r|=0 表示不存在线性关系；表示不存在线性关系；|r|1 表示完全线性相关；（函数关系）表示完全线性相关；（函数关系）第8页，本讲稿共51页 例：下表是有关例：下表是有关15个地区某种食物需求量和地区人口增加个地区某种食物需求量和地区人口增加量的资料。量的资料。第9页，本讲稿共51页第10页，本

6、讲稿共51页（1 1）相关关系不等于因果关系；）相关关系不等于因果关系；（2 2）相关系数只度量变量间的线性关系，）相关系数只度量变量间的线性关系，因此，弱相关不一定表明变量间没有因此，弱相关不一定表明变量间没有关系；关系；（3 3）极端值可能影响相关系数。）极端值可能影响相关系数。（4 4）警惕虚假相关）警惕虚假相关3 3、使用相关系数时应注意的问题、使用相关系数时应注意的问题第11页，本讲稿共51页第三节第三节 一元线性回归分析一元线性回归分析回归分析回归分析通过一个变量通过一个变量x x或一些变量或一些变量(x(x1,1,x x2,2,x x3 3)的的变化解释另一变量变化解释另一变量y

7、 y的变化。即根据相关关系的变化。即根据相关关系的数量表达式（回归方程式）与给定的的数量表达式（回归方程式）与给定的自变自变量量x x，揭示，揭示因变量因变量y y在数量上的平均变化和在数量上的平均变化和求得因变量的预测值的统计分析方法求得因变量的预测值的统计分析方法回归方程回归方程回归模型回归模型反映自变量和因变量之间数学联系反映自变量和因变量之间数学联系的表达式。的表达式。某一类回归方程的总称。某一类回归方程的总称。第12页，本讲稿共51页1 1、根据理论和对问题的分析判断，、根据理论和对问题的分析判断，区分区分自变量和因变量；自变量和因变量；2 2、设法找出适合的数学方程式、设法找出适合

8、的数学方程式(即即 回归回归模型模型)描述变量间的关系描述变量间的关系 3、对回归模型进行统计检验对回归模型进行统计检验；4、统计检验通过后，利用回归模型，统计检验通过后，利用回归模型，根据解释变量去估计，预测根据解释变量去估计，预测 因变量。因变量。一、回归分析的内容一、回归分析的内容第13页，本讲稿共51页一个自变量一个自变量一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归第14页，本讲稿共51页二、一元线性回归方程二、

9、一元线性回归方程样本一元线性回归方程样本一元线性回归方程：斜率（回归系数）斜率（回归系数）截距截距截距截距a a 表示在没有自变量表示在没有自变量x x的影响时，其它各种的影响时，其它各种因素对因变量因素对因变量y y的平均影响；的平均影响；回归系数回归系数b b 表明自表明自变量变量x x每变动一个单位，因变量每变动一个单位，因变量y y平均变动平均变动b b个单位。个单位。(估计的回归方程估计的回归方程)第15页，本讲稿共51页三、直线回归方程的求解原理最小二乘法1.使因变量的观察值与估计值之间的离差平方和达到使因变量的观察值与估计值之间的离差平方和达到最小来求得最小来求得 a 和和 b

10、的方法。的方法。2.2.用用用用最最最最小小小小二二二二乘乘乘乘法法法法拟拟拟拟合合合合的的的的直直直直线线线线来来来来代代代代表表表表x与与与与y之之之之间间间间的的的的关关关关系系系系与与与与实实实实际数据的误差比其他任何直线都小。际数据的误差比其他任何直线都小。际数据的误差比其他任何直线都小。际数据的误差比其他任何直线都小。第16页，本讲稿共51页第17页，本讲稿共51页例：配合回归直线第18页，本讲稿共51页第19页，本讲稿共51页思考题不定向选择不定向选择1 1、圆的面积与半径之间存在着（、圆的面积与半径之间存在着（）A A 相关关系相关关系 B B 因果关系因果关系C C 函数关系

11、函数关系 D D比较关系比较关系2 2、下列现象属于相关关系的有（、下列现象属于相关关系的有（）A A 职工家庭收入不断增加，消费支出也相应增加职工家庭收入不断增加，消费支出也相应增加 B B 工人文化技术水平越高，工人文化技术水平越高，劳动效率也越高劳动效率也越高 C C 在电阻一定的电路中，电压随电流强度大小而确定在电阻一定的电路中，电压随电流强度大小而确定 D D 农作物施肥农作物施肥量增加，产量也随之增加。量增加，产量也随之增加。3 3、自变量的值按一定数量增加时，应变量相应地按等量增加数量，反之亦然，那么自变量和、自变量的值按一定数量增加时，应变量相应地按等量增加数量，反之亦然，那么

12、自变量和应变量之间存在着（应变量之间存在着（）A A 正相关关系正相关关系 B B 负相关关系负相关关系 C C 直直线相关关系线相关关系 D D 曲线相关关系曲线相关关系 E E零相关关系零相关关系4 4、如果两个变量之间相关系数是、如果两个变量之间相关系数是1 1，则两个变量是（，则两个变量是（）A A 负相关关系负相关关系 B B 正相关关系正相关关系 C C 完全相关关系完全相关关系 D D 不完全相关关系不完全相关关系5 5、如果两变量将的相关系数为、如果两变量将的相关系数为-1-1，说明两变量间（，说明两变量间（）A A 高度相关关系高度相关关系 B B 完全相关关系完全相关关系

13、C C 低度相关关系低度相关关系 D D 完全不相关完全不相关第20页，本讲稿共51页四、一元线性回归方程的检验（一）回归模型检验的种类 回归模型的检验包括理论意义检验、回归方程的检验和回归系数的检验。第21页，本讲稿共51页（二）拟合程度的评价 1、拟合程度，是指样本观测值聚集在样本回归线周围的紧密程度。2、判断回归模型拟合程度优劣最常用的数量尺度是决定系数。它是建立在对总离差平方和进行分解的基础之上的。第22页，本讲稿共51页3、离差平方和的分解因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面：由于自变量 x 的取值不同造成的；除 x 以外的其他因素(如x对y的非

14、线性影响、测量误差等)的影响。x xy yy y 离差分解图离差分解图第23页，本讲稿共51页3、离差平方和的分解（三个平方和的关系）2）两端平方后求和有1 1 1 1）从图上看有）从图上看有）从图上看有）从图上看有SST=SSR+SSE总离差平方和总离差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）第24页，本讲稿共51页4、决定系数（r2）1）回归平方和占总离差平方和的比例2）反映回归直线的拟合程度）反映回归直线的拟合程度3）取值范围在）取值范围在 0,1 之间之间4）r2 1，说明回归方程拟合的越好；，说明回归方程拟合的越好；r20，说明回，说明回归方程拟合

15、的越差归方程拟合的越差5）判定系数等于相关系数的平方，即）判定系数等于相关系数的平方，即r2(r)2第25页，本讲稿共51页（三）回归方程的显著性检验1、检验自变量和因变量之间的线性关系是否显著具体方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系第26页，本讲稿共51页2、检验的步骤1）提出假设H0：线性关系不显著 2 2）计算检验统计量计算检验统计量计算检验统计量计算检验统计量F F3 3）确定显著性水平）确定显著性水平）确定显著性水平）确定显著性水平 ，并根

16、据分子自由度，并根据分子自由度，并根据分子自由度，并根据分子自由度1和分母自和分母自和分母自和分母自由度由度由度由度n n-2-2找出临界值找出临界值找出临界值找出临界值F F 4 4）作出决策：若）作出决策：若）作出决策：若）作出决策：若F F F F ,拒绝拒绝拒绝拒绝HH0 0；若若若若F F t，拒绝，拒绝H0；t t=2.201，拒拒绝绝H0，表表明明人人均均收收入入与与人人均消费之间有线性关系均消费之间有线性关系对前例的回归系数进行显著性检验对前例的回归系数进行显著性检验(0.05)第32页，本讲稿共51页7、Excel输出的结果第33页，本讲稿共51页五、一元线性回归方程的预测1

17、、根据自变量 x 的取值估计或预测因变量 y的取值2、估计或预测的类型点估计y 的平均值的点估计y 的个别值的点估计区间估计y 的平均值的置信区间估计第34页，本讲稿共51页3、置信区间估计（1）y 的平均值的置信区间估计 利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的平均值E(y0)的估计区间，这一估计区间称为置信区间置信区间（2）E(y0)在1-置信水平下的置信区间为式式中中：Sy为为估估计计标标准准误误差差第35页，本讲稿共51页（3）影响区间宽度的因素1）置信水平(1-)区间宽度随置信水平的增大而增大2）数据的离散程度(s)区间宽度随离散程度的增大而增大3）

18、样本容量区间宽度随样本容量的增大而减小4）用于预测的 xp与x的差异程度区间宽度随 xp与x 的差异程度的增大而增大第36页，本讲稿共51页置信区间、回归方程xp pyx x置信上限置信下限第37页，本讲稿共51页第四节 多元线性相关与回归分析一、多元线性回归模型1、定义：一个因变量与两个及两个以上自变量之间的回归描述因变量 y 如何依赖于自变量 x1，x2，xp 和误差项 的方程称为多元线性回归模型 0 ，1 1，p是参数是参数 是被称为误差项的随机变量是被称为误差项的随机变量 y 是是x1,，x2 ，xp 的线性函数加上误差项的线性函数加上误差项 说说明明了了包包含含在在y里里面面但但不不

19、能能被被p个个自自变变量量的的线线性性关系所解释的变异性关系所解释的变异性第38页，本讲稿共51页多元线性回归模型 对于 n 组实际观察数据(yi;xi1,，xi2，xip)，(i=1,2,n)，多元线性回归模型可表示为y1=+1 1 x11+x12+px1p+1 1y2=+1 1 x21+x22+px2p+yn=+1 1 xn1+xn2+pxnp+n 第39页，本讲稿共51页二、参数的最小二乘法2.根根据据最最小小二二乘乘法法的的要要求求，可可得得求求解解各各回回归归参参数数 的的标标准方程如下准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和达到

20、最小来求得达到最小来求得 。即。即第40页，本讲稿共51页三、显著性检验（线性关系的检验）1、回归方程的检验：将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用 F 检验来分析二者之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性关系2、回归系数的检验：对每一个自变量都要单独进行检验，应用 t 检验在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验。第41页，本讲稿共51页第五节非线性相关与回归分析一、非线性函数形式的确定1、选择回归方程的具体形式应遵循以下原则：首先，方程形式应与有关实质性科学的基本理论相一

21、致。其次，方程有较高的拟合程度。最后，方程的数学形式要尽可能简单。第42页，本讲稿共51页二、几种常见的非线性模型（一）指数函数2.线性化方法线性化方法两端取对数得：两端取对数得：lny=ln +x令：令：y=lny，则有，则有y=ln +x1.基本形式基本形式：3.图像图像 第43页，本讲稿共51页二、几种常见的非线性模型（二）幂函数2.线性化方法线性化方法两端取对数得：两端取对数得：lg y=lg +lg x令：令：y=lgy，x=lg x，则，则y=lg +x1.基本形式：基本形式：3.图像图像00 1 1 1 1 =1=1-1-1 0 0 -1-1 =-1=-1 第44页，本讲稿共51

22、页二、几种常见的非线性模型（三）双曲线函数2.线性化方法线性化方法令：令：y=1/y，x=1/x,则有则有y=+x1.基本形式：基本形式：3.图像图像 0 0第45页，本讲稿共51页二、几种常见的非线性模型（四）对数函数2.线性化方法线性化方法x=lgx,则有则有y=+x1.基本形式基本形式：3.图像图像 0 0 0 0 第46页，本讲稿共51页几种常见的非线性模型2.线性化方法线性化方法令：令：y=1/y，x=e-x,则有则有y=+x1.基本形式基本形式：3.图像图像（五）S 型曲线第47页，本讲稿共51页三、非线性回归【例例】为研究生产率与废品率之间的关系，记录数据如下表。试拟合适当的模型

23、。废品率与生产率的关系生产率（周生产率（周/单位单位)x1000200030003500400045005000废品率（废品率（%）y5.26.56.88.110.210.313.0生产率与废品率的散点图生产率与废品率的散点图第48页，本讲稿共51页用线性模型：y=01x+，有y=2.671+0.0018x用指数模型：y=x ，有y=4.05(1.0002)x比较 直线的残差平方和5.3371指数模型的残差平方和6.11。直线模型略好于指数模型第49页，本讲稿共51页小结小结1、相关分析相关系数2、回归分析一元回归多元回归回归模型的检验第50页，本讲稿共51页20102010年年4 4月月再见！再见！第51页，本讲稿共51页