回归分析的基本思想及其初步应用第二第三课时ppt课件.ppt

《回归分析的基本思想及其初步应用第二第三课时ppt课件.ppt》由会员分享，可在线阅读，更多相关《回归分析的基本思想及其初步应用第二第三课时ppt课件.ppt（27页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1 1：自变量取值一定时，因变量的取值带有一：自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做定随机性的两个变量之间的关系叫做相关关系相关关系。对具有相关关系的两个变量进行统计分对具有相关关系的两个变量进行统计分析的方法叫析的方法叫回归分析回归分析。2 2：复习回顾复习回顾3：最小二乘法：最小二乘法样本点的中心样本点的中心:回回归归方程方程:4：思考产生随机误差项：思考产生随机误差项e的原因的原因随机误差随机误差e e的来源的来源(可以推广到一般）：可以推广到一般）：1、其它因素的影响：影响体重y 的因素不只是身高 x，可能还包括遗传基因、饮食习惯、是否喜欢运动、生长环境、

2、度量误差等因素；2、用线性回归模型近似真实模型所引起的误差；3、身高 x 的观测误差。函数模型与回归模型之间的差别函数模型与回归模型之间的差别函数模型：回归模型：线性回归模型线性回归模型y=bx+a+e增加了随机误差项增加了随机误差项e，因变量，因变量y的值的值由自变量由自变量x和随机误差项和随机误差项e共同确定，即共同确定，即自变量自变量x只能解释部分只能解释部分y的变化的变化。在统计中，我们也把自变量在统计中，我们也把自变量x称为解释变量，因变量称为解释变量，因变量y称为预称为预报变量。报变量。1.用相关系数用相关系数 r 来衡量来衡量2.公式：公式：求出线性相关方程后，求出线性相关方程后

3、，说明身高说明身高x每每增加一个单位增加一个单位,体重体重y就增加就增加0.849个单位个单位,这表这表明体重与身高具有正的线性相关关系明体重与身高具有正的线性相关关系.如何描如何描述它们之间线性相关关系的强弱呢述它们之间线性相关关系的强弱呢?、当、当 时，时，x x与与y y为完全线性相关，它们之为完全线性相关，它们之间存在确定的函数关系。间存在确定的函数关系。、当、当 时，表示时，表示x x与与y y存在着一定的线存在着一定的线性相关，性相关，r r的绝对值越大，越接近于的绝对值越大，越接近于1 1，表示，表示x x与与y y直线相关程度越高，反之越低。直线相关程度越高，反之越低。3.性质

4、：性质：相关系数相关系数 相关系数的性质相关系数的性质:(1)|r|1(1)|r|1 (2)|r|(2)|r|越接近于越接近于1 1，相关程度越强；，相关程度越强；|r|r|越接近于越接近于0 0，相关程度越弱相关程度越弱如何描述两个变量之间线性相关关系的强弱？如何描述两个变量之间线性相关关系的强弱？问题：问题：达到怎样程度，达到怎样程度，x、y线性相关呢？线性相关呢？它们的相关程度怎样呢？它们的相关程度怎样呢？我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是 显然，显然，R2的值越大，说明残差平方和越小，也就是的值越大，说明残差平方和越小，

5、也就是说模型拟合效果越好。说模型拟合效果越好。在线性回归模型中，在线性回归模型中，R2表示解释变量对预报变量变表示解释变量对预报变量变化的贡献率化的贡献率。R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越接近越接近1，表，表示解释示解释变量和预报变量的线性相关性越强）。变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较析，则可以通过比较R2的值来做出选择，即的值来做出选择，即选取选取R2较大较大的模型作为这组数据的模型的模型作为这组数据的模型。总的来说：总的来说：相关指数相

6、关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型中，它在线性模型中，它代表自变量刻画预报变量的代表自变量刻画预报变量的能力能力。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是1354总计0.36128.361随机误差(e)0.64225.639解释变量(身高)比例平方和来源表表1-3 从表从表3-1中可以看出，解释变量对总效应约贡献了中可以看出，解释变量对总效应约贡献了64%，即，即R20.64，可以叙述为，可以叙述为“身高解析了身高解析了64%的体重变化的体重变化”，而随，而随机误差贡献了剩余的机误差贡献了

7、剩余的36%。所以，身高对体重的效应比随机误。所以，身高对体重的效应比随机误差的效应大得多。差的效应大得多。为了回归的准确和计算的方便我们引入为了回归的准确和计算的方便我们引入残差平方和残差平方和(residual sum of squares)它代表随机误差的效应它代表随机误差的效应求出了随机误差的效应后，我们就比较容易得到解释变量的效求出了随机误差的效应后，我们就比较容易得到解释变量的效应了。同学们知道怎样求吗？应了。同学们知道怎样求吗？解释变量的效应解释变量的效应总体偏差平方和总体偏差平方和残差平方和残差平方和回归平方和回归平方和(regression sun of squares)编号

8、编号12345678身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我们可以利用图形来分析残差特性，作图时纵我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数坐标为残差，横坐标可以选为样本编号，或身高数据据，或体重估计值等，这样作出的图形称为，或体重估计值等，这样作出的图形称为残差图残差图。表表1-4列出了女大学生身高和体重的原始数据以及列出了女大学生身高和体重的原始数据以及相应的残差数据。相应的残差数据。

9、使用公式使用公式 计算残差计算残差残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；横轴为心的带形区域；对于远离横轴的点，要特别注意。对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明：第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性否有人

10、为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型比较另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型比较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。报精度越高。用身高预报体重时，需要注意下列问题：用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们所研究的样本的总体；、回归方程只适用于我

11、们所研究的样本的总体；2、我们所建立的回归方程一般都有时间性；、我们所建立的回归方程一般都有时间性；3、样本采集的范围会影响回归方程的适用范围；、样本采集的范围会影响回归方程的适用范围；4、不能期望回归方程得到的预报值就是预报变量的精确值。、不能期望回归方程得到的预报值就是预报变量的精确值。事实上，它是预报变量的可能取值的平均值。事实上，它是预报变量的可能取值的平均值。这些问题也使用于其他问题。这些问题也使用于其他问题。一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解释变量，哪个变量）确定研究对象，明确哪个变量是解释变量，哪个变量是预报变

12、量。是预报变量。（2）画出确定好的）画出确定好的解释解释变量和预报变量的散点图，观察它变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。们之间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程性关系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等

13、），过存在残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。异常，则检查数据是否有误，或模型是否合适等。基本步骤基本步骤抽取样本抽取样本,采集数据采集数据作出散点图作出散点图确定类型确定类型,求回归方程求回归方程残差分析残差分析相关指数相关指数判定拟合程度判定拟合程度某大学中随机选取某大学中随机选取8名女大学生，其身高和体重数据名女大学生，其身高和体重数据如下表所示如下表所示.编号编号1 12 23 34 45 56 67 78 8身高身高/cm/cm165165165165157157170170175175165165155155170170体重

14、体重/kg/kg48485757505054546464616143435959求根据女大学生的身高预报体重的回归方程，并预报求根据女大学生的身高预报体重的回归方程，并预报一名身高为一名身高为172cm的女大学生的体重的女大学生的体重.并求相关指数的并求相关指数的值？值？案例案例1：女大学生的身高与体重：女大学生的身高与体重样本点呈条状分布，身高和体重有较好的线性相关关样本点呈条状分布，身高和体重有较好的线性相关关系，因此可以用线性回归方程来近似的刻画它们之间系，因此可以用线性回归方程来近似的刻画它们之间的关系的关系.解：解：选取身高为自变量选取身高为自变量x，体重为因变量，体重为因变量y，作

15、散点图：作散点图：由由得：得：故所求线性回归方程为：故所求线性回归方程为：因此，对于身高因此，对于身高172cm的女大学生，由线性回归方程可的女大学生，由线性回归方程可以预报其体重为：以预报其体重为：是斜率的估计值，说明身高是斜率的估计值，说明身高x每增加每增加1个单个单位时，体重位时，体重y就增加就增加0.849个单位，这表明个单位，这表明体重与身高具有正的线性相关关系体重与身高具有正的线性相关关系.一般方法：一般方法：1.利用散点图观察两个变量是否线性相关利用散点图观察两个变量是否线性相关2.利用残差来判断模型拟合的效果利用残差来判断模型拟合的效果(残差分析残差分析)利用利用残差图残差图来

16、分析数据，对来分析数据，对可疑数据可疑数据(残差较大的数据残差较大的数据)进行进行重新调查，有错误就更正，然后重新利用回归模型拟合，如重新调查，有错误就更正，然后重新利用回归模型拟合，如果没有错误，则需要找其他原因。果没有错误，则需要找其他原因。非线性回归非线性回归 红铃虫喜高温高湿红铃虫喜高温高湿,适宜各虫态发育适宜各虫态发育的温度为的温度为 25 一一32,相对湿度为相对湿度为80一一100,低于低于 20 和高于和高于35 卵不卵不能孵化能孵化,相对湿度相对湿度60 以下成虫不产卵。以下成虫不产卵。冬季月平均气温低于一冬季月平均气温低于一48 时时,红铃虫红铃虫就不能越冬而被冻死。就不能

17、越冬而被冻死。19531953年，年，1818省发生红铃虫大灾害，受灾面积省发生红铃虫大灾害，受灾面积300300万公顷，损失皮棉约二十万吨。万公顷，损失皮棉约二十万吨。例例2一只红蛉虫的产卵数一只红蛉虫的产卵数y与温度与温度x有关，现收集了有关，现收集了7组数据，请建立组数据，请建立y与与x建德回归方程建德回归方程温度x21232527293235产卵数y/个711212466115325解解 1.制作散点图制作散点图2.观察模拟观察模拟样本点不能直接利用线性回归样本点不能直接利用线性回归,根据我们的函数知识根据我们的函数知识,它应该是一个指数模它应该是一个指数模型型:y=c1ec2x其中其

18、中c1c2为参数为参数或或二次函数模型二次函数模型,根据对数回归知识我根据对数回归知识我们知道们知道:令令z=lny将其变换到样本点的分布直线将其变换到样本点的分布直线z=a+bxx21232527293235z1.946 2.398 3.045 3.178 4.190 4.745 5.784z=0272x-3.843则则:y=e0.272x-3.8432.我们认为样本点集中在某二次函数我们认为样本点集中在某二次函数y=c3x2+c4附近，附近，c3c4为参数，则，为参数，则，令令tx2则：则：y=c5t+c6其中其中c5c6为参数为参数t44152962572984110241225y711

19、212466115325y=0.367t-202.54不适合利用线性回归不适合利用线性回归为什么这样说？为什么这样说？4.残差分析：残差分析：X21232527293235合计合计(残差残差平方和平方和)R2Y711212466115329e(1)0.518-0.1671.760-9.1498.889-14.15332.9281450.6730.98e(2)47.69319.397-5.835-41.003-40.107-58.26877.96515448.4320.80由图的对比可以看出，指数模拟由图的对比可以看出，指数模拟优于优于线性模拟线性模拟回回归归分分析析基基本本思思想想及及其其初初步步应应用用基本思想基本思想实际应用实际应用回归分析回归分析相关性方法分析相关性方法分析回归优劣分析回归优劣分析总偏差平方和总偏差平方和残差平方和残差平方和回归平方和回归平方和