回归分析法课件.ppt

《回归分析法课件.ppt》由会员分享，可在线阅读，更多相关《回归分析法课件.ppt（54页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1关于回归分析法课件关于回归分析法课件现在学习的是第1页，共54页251 一元线性回归一元线性回归n n一、什么叫回归分析一、什么叫回归分析n n（一）两种不同类型的变量关系、函数与相关（一）两种不同类型的变量关系、函数与相关（一）两种不同类型的变量关系、函数与相关（一）两种不同类型的变量关系、函数与相关n n简单的说，回归分析就是一种处理变量与变量之间关系的数学方简单的说，回归分析就是一种处理变量与变量之间关系的数学方简单的说，回归分析就是一种处理变量与变量之间关系的数学方简单的说，回归分析就是一种处理变量与变量之间关系的数学方法。法。法。法。n n例：自由落体运动中，物体下落的例：自由落体

2、运动中，物体下落的例：自由落体运动中，物体下落的例：自由落体运动中，物体下落的距离距离距离距离S S与所需时间与所需时间与所需时间与所需时间t t之间，有如下关之间，有如下关之间，有如下关之间，有如下关系系系系 现在学习的是第2页，共54页3n n变量变量变量变量S S的值随的值随的值随的值随t t而定，这就是说，如果而定，这就是说，如果而定，这就是说，如果而定，这就是说，如果t t给给给给了固定值，那么了固定值，那么了固定值，那么了固定值，那么S S的的的的值就完全确定了值就完全确定了值就完全确定了值就完全确定了n n这种关系就是所谓的函数关系或确定性关系这种关系就是所谓的函数关系或确定性关

3、系这种关系就是所谓的函数关系或确定性关系这种关系就是所谓的函数关系或确定性关系n n回归分析方法是处理变量之间相关关系的有回归分析方法是处理变量之间相关关系的有回归分析方法是处理变量之间相关关系的有回归分析方法是处理变量之间相关关系的有效效效效工具，它不工具，它不工具，它不工具，它不仅提供建立变量间关系的数学表达式仅提供建立变量间关系的数学表达式仅提供建立变量间关系的数学表达式仅提供建立变量间关系的数学表达式经验公式，而经验公式，而经验公式，而经验公式，而且利用概率统计知识进行了分析讨论，从而判断经验公且利用概率统计知识进行了分析讨论，从而判断经验公且利用概率统计知识进行了分析讨论，从而判断经

4、验公且利用概率统计知识进行了分析讨论，从而判断经验公式的正确性式的正确性式的正确性式的正确性现在学习的是第3页，共54页4n n二、回归分析所能解决的问题二、回归分析所能解决的问题二、回归分析所能解决的问题二、回归分析所能解决的问题n n回归分析主要解决以下几方面的问题：回归分析主要解决以下几方面的问题：回归分析主要解决以下几方面的问题：回归分析主要解决以下几方面的问题：n n（1 1）确定几个特定变量之间是否存在相关关系，如果存）确定几个特定变量之间是否存在相关关系，如果存）确定几个特定变量之间是否存在相关关系，如果存）确定几个特定变量之间是否存在相关关系，如果存在的话，找出她们之间合适的数

5、学表达式在的话，找出她们之间合适的数学表达式在的话，找出她们之间合适的数学表达式在的话，找出她们之间合适的数学表达式n n（2 2）根据一个或几个变量的值，预报或控制另一个变量的）根据一个或几个变量的值，预报或控制另一个变量的）根据一个或几个变量的值，预报或控制另一个变量的）根据一个或几个变量的值，预报或控制另一个变量的取值，并且要知道这种预报或控制的精确度取值，并且要知道这种预报或控制的精确度取值，并且要知道这种预报或控制的精确度取值，并且要知道这种预报或控制的精确度n n（3 3）进行因素分析，确定因素的主次以及因素之间的相）进行因素分析，确定因素的主次以及因素之间的相）进行因素分析，确定

6、因素的主次以及因素之间的相）进行因素分析，确定因素的主次以及因素之间的相互关系等等互关系等等互关系等等互关系等等现在学习的是第4页，共54页5n n一元线性回归分析，只要解决：一元线性回归分析，只要解决：一元线性回归分析，只要解决：一元线性回归分析，只要解决：n n（1 1）求变量）求变量）求变量）求变量x x与与与与y y之间的回归直线方程之间的回归直线方程之间的回归直线方程之间的回归直线方程n n（2 2）判断变量）判断变量）判断变量）判断变量x x和和和和y y之间是否确为线性关系之间是否确为线性关系之间是否确为线性关系之间是否确为线性关系n n（3 3）根据一个变量的值，预测或控制另一

7、变量的取值）根据一个变量的值，预测或控制另一变量的取值）根据一个变量的值，预测或控制另一变量的取值）根据一个变量的值，预测或控制另一变量的取值现在学习的是第5页，共54页6n n二、一元线性回归方程的确定二、一元线性回归方程的确定现在学习的是第6页，共54页7现在学习的是第7页，共54页8现在学习的是第8页，共54页9现在学习的是第9页，共54页10现在学习的是第10页，共54页11现在学习的是第11页，共54页12n n三、回归方程检验方法三、回归方程检验方法n n（一）方差分析法（一）方差分析法（一）方差分析法（一）方差分析法n n回回回回归归归归方差分析的基本特点：方差分析的基本特点：方

8、差分析的基本特点：方差分析的基本特点：n n把所给数据的总波动分解为两部分，一部分反映水平变化引起的波动，把所给数据的总波动分解为两部分，一部分反映水平变化引起的波动，把所给数据的总波动分解为两部分，一部分反映水平变化引起的波动，把所给数据的总波动分解为两部分，一部分反映水平变化引起的波动，另一部分反映由于存在试验误差而引起的波动。然后把各因素水平变化引起另一部分反映由于存在试验误差而引起的波动。然后把各因素水平变化引起另一部分反映由于存在试验误差而引起的波动。然后把各因素水平变化引起另一部分反映由于存在试验误差而引起的波动。然后把各因素水平变化引起的波动与试验误差引起的波动大小进行比较，而达

9、到检验因素显著性的目的的波动与试验误差引起的波动大小进行比较，而达到检验因素显著性的目的的波动与试验误差引起的波动大小进行比较，而达到检验因素显著性的目的的波动与试验误差引起的波动大小进行比较，而达到检验因素显著性的目的.现在学习的是第12页，共54页13现在学习的是第13页，共54页14现在学习的是第14页，共54页15现在学习的是第15页，共54页16现在学习的是第16页，共54页17n n（二）相关系数检验法（二）相关系数检验法（二）相关系数检验法（二）相关系数检验法现在学习的是第17页，共54页18现在学习的是第18页，共54页19现在学习的是第19页，共54页20现在学习的是第20页

10、，共54页21现在学习的是第21页，共54页22现在学习的是第22页，共54页23现在学习的是第23页，共54页24n-2123456789100.05 0.010.9970.9500.8780.8110.7540.7070.6660.6320.6020.5761.0000.9900.9590.9170.8740.8340.7980.7650.7350.708n-2111213141516171819200.05 0.010.5530.5320.5140.4790.4820.4680.4560.4440.4330.4130.6840.6610.6410.6230.6060.5900.5750.

11、5610.5490.537n-2212223242526272829300.05 0.010.4130.4040.3960.3880.3810.3740.3670.3640.3550.3490.5260.5150.5050.4960.4870.4780.4700.4630.4560.449相关系数临界值表现在学习的是第24页，共54页25n n四、预报与控制四、预报与控制n n当我们求得变量当我们求得变量当我们求得变量当我们求得变量x x、y y之间的回归直线方程后，往往之间的回归直线方程后，往往之间的回归直线方程后，往往之间的回归直线方程后，往往通过回归方程回答这样两方面的问题：通过回归方程

12、回答这样两方面的问题：通过回归方程回答这样两方面的问题：通过回归方程回答这样两方面的问题：n n（1 1）对任何一个给定的观测点）对任何一个给定的观测点）对任何一个给定的观测点）对任何一个给定的观测点x x0 0，推断，推断，推断，推断y y0 0大致落的范围大致落的范围大致落的范围大致落的范围n n（2 2）若要求观测值）若要求观测值）若要求观测值）若要求观测值y y在一定的范围在一定的范围在一定的范围在一定的范围y y1 1yyyy2 2内取值，应将变量控制在内取值，应将变量控制在内取值，应将变量控制在内取值，应将变量控制在什么地方什么地方什么地方什么地方n n前者就是所谓的预报问题，后者

13、称为控制问题。前者就是所谓的预报问题，后者称为控制问题。前者就是所谓的预报问题，后者称为控制问题。前者就是所谓的预报问题，后者称为控制问题。现在学习的是第25页，共54页26现在学习的是第26页，共54页27现在学习的是第27页，共54页28现在学习的是第28页，共54页29现在学习的是第29页，共54页30现在学习的是第30页，共54页31n n五、应用举例五、应用举例n n例例例例6 61 1 在某产品表明腐蚀刻线，下表是试验活得在某产品表明腐蚀刻线，下表是试验活得在某产品表明腐蚀刻线，下表是试验活得在某产品表明腐蚀刻线，下表是试验活得的腐蚀时间（的腐蚀时间（的腐蚀时间（的腐蚀时间（x x

14、）与腐蚀深度（）与腐蚀深度（）与腐蚀深度（）与腐蚀深度（y y）间的一组数据。试研）间的一组数据。试研）间的一组数据。试研）间的一组数据。试研究两变量（究两变量（究两变量（究两变量（x x，y y）之间的关系。）之间的关系。）之间的关系。）之间的关系。腐蚀时间腐蚀时间x（秒）（秒）腐蚀深度腐蚀深度y（）5 5 10 20 30 40 50 60 65 90 1204 6 8 13 16 17 19 25 25 29 46现在学习的是第31页，共54页3240302010yx10 20 30 40 50 60 70 80 90 100 110 120现在学习的是第32页，共54页33现在学习的是

15、第33页，共54页34序号12345678910115510203040506065901204954681316171925252946208252510040090016002500360042258100144003587516366416925628936162562584121165398203080260480680950150016252610552013755现在学习的是第34页，共54页35现在学习的是第35页，共54页36现在学习的是第36页，共54页37现在学习的是第37页，共54页38现在学习的是第38页，共54页3952 多元回归分析方法现在学习的是第39页，共54页

16、40一、多元回归分析概述一、多元回归分析概述 上节讨论的只是两个变量的回归问题，其中因变量只上节讨论的只是两个变量的回归问题，其中因变量只上节讨论的只是两个变量的回归问题，其中因变量只上节讨论的只是两个变量的回归问题，其中因变量只与一个自变量相关。但这只是最简单的情况，在大多数与一个自变量相关。但这只是最简单的情况，在大多数与一个自变量相关。但这只是最简单的情况，在大多数与一个自变量相关。但这只是最简单的情况，在大多数的实际问题中，影响因变量的因素不是一个而是多个，的实际问题中，影响因变量的因素不是一个而是多个，的实际问题中，影响因变量的因素不是一个而是多个，的实际问题中，影响因变量的因素不是

17、一个而是多个，我们称这类回问题为多元回归分析。我们称这类回问题为多元回归分析。我们称这类回问题为多元回归分析。我们称这类回问题为多元回归分析。我们这里着重讨论简单而又最一般的线性回归问题，这我们这里着重讨论简单而又最一般的线性回归问题，这我们这里着重讨论简单而又最一般的线性回归问题，这我们这里着重讨论简单而又最一般的线性回归问题，这是因为许多非线性的情形可以化为线性回归来做。多元线是因为许多非线性的情形可以化为线性回归来做。多元线是因为许多非线性的情形可以化为线性回归来做。多元线是因为许多非线性的情形可以化为线性回归来做。多元线性回归分析的原理与一元线性回归分析完全相同，但在计性回归分析的原理

18、与一元线性回归分析完全相同，但在计性回归分析的原理与一元线性回归分析完全相同，但在计性回归分析的原理与一元线性回归分析完全相同，但在计算上却要复杂得多。不过，应用计算机多元回归的计算量算上却要复杂得多。不过，应用计算机多元回归的计算量算上却要复杂得多。不过，应用计算机多元回归的计算量算上却要复杂得多。不过，应用计算机多元回归的计算量是很小的，一般的计算机都有多元回归（以及逐步回归方是很小的，一般的计算机都有多元回归（以及逐步回归方是很小的，一般的计算机都有多元回归（以及逐步回归方是很小的，一般的计算机都有多元回归（以及逐步回归方法）的专门程序法）的专门程序法）的专门程序法）的专门程序。现在学习

19、的是第40页，共54页41现在学习的是第41页，共54页42现在学习的是第42页，共54页43现在学习的是第43页，共54页44现在学习的是第44页，共54页45现在学习的是第45页，共54页46现在学习的是第46页，共54页47现在学习的是第47页，共54页48多元线性回归方差分析表现在学习的是第48页，共54页494 4偏回归平方和与因素主次的差别偏回归平方和与因素主次的差别偏回归平方和与因素主次的差别偏回归平方和与因素主次的差别 前面讲的有关多元线性回归的内容，纯属一元情形的推广，只是形式上复杂前面讲的有关多元线性回归的内容，纯属一元情形的推广，只是形式上复杂前面讲的有关多元线性回归的内

20、容，纯属一元情形的推广，只是形式上复杂前面讲的有关多元线性回归的内容，纯属一元情形的推广，只是形式上复杂一些而已，而偏回归平方和与因素主次的差别则是多元回归问题所特有的。一些而已，而偏回归平方和与因素主次的差别则是多元回归问题所特有的。一些而已，而偏回归平方和与因素主次的差别则是多元回归问题所特有的。一些而已，而偏回归平方和与因素主次的差别则是多元回归问题所特有的。先从判别因素的主次说起。在实际工作中先从判别因素的主次说起。在实际工作中先从判别因素的主次说起。在实际工作中先从判别因素的主次说起。在实际工作中,我们还关心我们还关心我们还关心我们还关心Y Y对对对对x x1 1,x,x2 2,x

21、xk k的线的线的线的线性回归中性回归中性回归中性回归中,哪些因素哪些因素哪些因素哪些因素(即自变量即自变量即自变量即自变量)更重要些更重要些更重要些更重要些,哪些不重要哪些不重要哪些不重要哪些不重要,怎栏来衡量某个特定怎栏来衡量某个特定怎栏来衡量某个特定怎栏来衡量某个特定因素（，因素（，因素（，因素（，）的影响呢）的影响呢）的影响呢）的影响呢?我们知道我们知道我们知道我们知道,回归平方和回归平方和回归平方和回归平方和UU这个量这个量这个量这个量,刻刻刻刻划了全体自变量划了全体自变量划了全体自变量划了全体自变量x x1 1,x,x2 2,x xk k对于对于对于对于Y Y总的线性影响总的线性影

22、响总的线性影响总的线性影响,为了研究为了研究为了研究为了研究x xk k的作用的作用的作用的作用,可以可以可以可以这样来考虑这样来考虑这样来考虑这样来考虑:从原来的个自变量中扣除从原来的个自变量中扣除从原来的个自变量中扣除从原来的个自变量中扣除x xk k,我们知道这个自变量我们知道这个自变量我们知道这个自变量我们知道这个自变量x x1 1,x,x2 2,xxxxk-1k-1k-1k-1对于对于对于对于Y Y的总的线性影响也是一个回归平方和的总的线性影响也是一个回归平方和的总的线性影响也是一个回归平方和的总的线性影响也是一个回归平方和,记作记作记作记作U U U U(k)(k)(k)(k)；我

23、们称；我们称；我们称；我们称 P P P Pk k k k=U-U=U-U=U-U=U-U(k)(k)(k)(k)现在学习的是第49页，共54页50 为为为为x x1 1,x,x2 2,x xk k中中中中x xk k的偏回归平方和。这个偏回归平方和也可的偏回归平方和。这个偏回归平方和也可的偏回归平方和。这个偏回归平方和也可的偏回归平方和。这个偏回归平方和也可看作看作看作看作x xk k产生的作用产生的作用产生的作用产生的作用,类似地类似地类似地类似地,可定义为可定义为可定义为可定义为U U U U(i).(i).(i).(i).一般地一般地一般地一般地,称称称称 P P P Pi i i i

24、=U-U=U-U=U-U=U-U(i)(i)(i)(i)为为为为x x1 1,x,x2 2,x xk k 中中中中i i的偏回归平方和。用它来衡量的偏回归平方和。用它来衡量的偏回归平方和。用它来衡量的偏回归平方和。用它来衡量i i在在在在Y Y对对对对x x1 1,x,x2 2,x xk k的线性回归中的作用的大小。的线性回归中的作用的大小。的线性回归中的作用的大小。的线性回归中的作用的大小。现在学习的是第50页，共54页51 现在学习的是第51页，共54页52 从偏回归平方和的意义可以看出从偏回归平方和的意义可以看出从偏回归平方和的意义可以看出从偏回归平方和的意义可以看出,凡是对凡是对凡是对

25、凡是对Y Y作用显著的因素一般具有较大作用显著的因素一般具有较大作用显著的因素一般具有较大作用显著的因素一般具有较大的的的的i i值。值。值。值。i i愈大愈大愈大愈大,该因素对该因素对该因素对该因素对Y Y的作用也就愈大的作用也就愈大的作用也就愈大的作用也就愈大,这样通过比较各个因素的这样通过比较各个因素的这样通过比较各个因素的这样通过比较各个因素的P P值就可以大致看出各个因素对因素变量作用的重要性。值就可以大致看出各个因素对因素变量作用的重要性。值就可以大致看出各个因素对因素变量作用的重要性。值就可以大致看出各个因素对因素变量作用的重要性。在实用上在实用上在实用上在实用上,在计算在计算在

26、计算在计算了偏回归平方和后了偏回归平方和后了偏回归平方和后了偏回归平方和后,对各因素的分析可以按下面步骤进行对各因素的分析可以按下面步骤进行对各因素的分析可以按下面步骤进行对各因素的分析可以按下面步骤进行:凡是偏回归平方和大的凡是偏回归平方和大的凡是偏回归平方和大的凡是偏回归平方和大的,也就是显著性的那些因素也就是显著性的那些因素也就是显著性的那些因素也就是显著性的那些因素,一定是对一定是对一定是对一定是对Y Y有重要影响的因素。至于偏有重要影响的因素。至于偏有重要影响的因素。至于偏有重要影响的因素。至于偏回归平方和大到什么程度才算显著回归平方和大到什么程度才算显著回归平方和大到什么程度才算显

27、著回归平方和大到什么程度才算显著,要对它作检验要对它作检验要对它作检验要对它作检验,检验的方法与本节中对总回归的检验法检验的方法与本节中对总回归的检验法检验的方法与本节中对总回归的检验法检验的方法与本节中对总回归的检验法类似。类似。类似。类似。为此为此为此为此,我们要先计算我们要先计算我们要先计算我们要先计算 现在学习的是第52页，共54页53 其中其中其中其中S S即是方差分析计算中的剩余方差即是方差分析计算中的剩余方差即是方差分析计算中的剩余方差即是方差分析计算中的剩余方差,F,F自由度为自由度为自由度为自由度为（，）（，）（，）（，）,于是在给定的显著性水平于是在给定的显著性水平于是在给

28、定的显著性水平于是在给定的显著性水平，按前面的，按前面的，按前面的，按前面的F F检验法检验法检验法检验法,检验该因素的偏回归平和的显著性。检验该因素的偏回归平和的显著性。检验该因素的偏回归平和的显著性。检验该因素的偏回归平和的显著性。凡是偏回归平方和小的凡是偏回归平方和小的凡是偏回归平方和小的凡是偏回归平方和小的,即不显著的变量即不显著的变量即不显著的变量即不显著的变量;则可肯定偏回归则可肯定偏回归则可肯定偏回归则可肯定偏回归平方和最小的那个因素必然是在这些因素中对平方和最小的那个因素必然是在这些因素中对平方和最小的那个因素必然是在这些因素中对平方和最小的那个因素必然是在这些因素中对Y Y作

29、用最小作用最小作用最小作用最小的一个的一个的一个的一个,此时应该从回归方程中将变量剔除。剔除一个变此时应该从回归方程中将变量剔除。剔除一个变此时应该从回归方程中将变量剔除。剔除一个变此时应该从回归方程中将变量剔除。剔除一个变量后量后量后量后,各因素的偏回归平方和的大小一般的都会有所改变各因素的偏回归平方和的大小一般的都会有所改变各因素的偏回归平方和的大小一般的都会有所改变各因素的偏回归平方和的大小一般的都会有所改变,这这这这时应该对它们重新作出检验。时应该对它们重新作出检验。时应该对它们重新作出检验。时应该对它们重新作出检验。另外需要说明一下就是另外需要说明一下就是另外需要说明一下就是另外需要说明一下就是,在通常情况下在通常情况下在通常情况下在通常情况下,各因素的偏回归平各因素的偏回归平各因素的偏回归平各因素的偏回归平方和相加并不等于回归平方和。方和相加并不等于回归平方和。方和相加并不等于回归平方和。方和相加并不等于回归平方和。只有当正规方程的系数矩阵为对角型只有当正规方程的系数矩阵为对角型只有当正规方程的系数矩阵为对角型只有当正规方程的系数矩阵为对角型现在学习的是第53页，共54页54感谢大家观看现在学习的是第54页，共54页