回归分析的基本思想及其初步应用.ppt

《回归分析的基本思想及其初步应用.ppt》由会员分享，可在线阅读，更多相关《回归分析的基本思想及其初步应用.ppt（72页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、3.1回归分析的基本思想及其初步应用,高二数学 选修2-3,数学统计内容 画散点图 了解最小二乘法的思想 求回归直线方程 ybxa 用回归直线方程解决应用问题,问题1：正方形的面积y与正方形的边长x之间 的函数关系是,y = x2,问题2：某水田水稻产量y与施肥量x之间是否 有一个确定性的关系？,例如：在 7 块并排、形状大小相同的试验田上 进行施肥量对水稻产量影响的试验，得 到如下所示的一组数据：,复习 变量之间的两种关系,10 20 30 40 50,500 450 400 350 300,施化肥量,水稻产量,自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做相关关系。,

2、1、定义：,1）：相关关系是一种不确定性关系；,注,现实生活中存在着大量的相关关系。 如：人的身高与年龄； 产品的成本与生产数量； 商品的销售额与广告费； 家庭的支出与收入。等等,探索：水稻产量y与施肥量x之间大致有何规律？,10 20 30 40 50,500 450 400 350 300,发现：图中各点，大致分布在某条直线附近。,探索2：在这些点附近可画直线不止一条，哪条直线最能代表x与y之间的关系呢？,散点图,施化肥量,水稻产量,探究,对于一组具有线性相关关系的数据,我们知道其回归方程的截距和斜率的最小二乘估计公式分别为：,称为样本点的中心。,你能推导出这个公式吗？,1、所求直线方程叫

3、做回归直线方程； 相应的直线叫做回归直线。,2、对两个变量进行的线性分析叫做线性回归分析。,1、回归直线方程,最小二乘法：,称为样本点的中心。,2、求回归直线方程的步骤：,（3）代入公式,例1、观察两相关量得如下数据:,求两变量间的回归方程.,解：列表：,所求回归直线方程为,3、利用回归直线方程对总体进行线性相关性的检验,例3、炼钢是一个氧化降碳的过程，钢水含碳量的多少直接影响冶炼时间的长短，必须掌握钢水含碳量和冶炼时间的关系。如果已测得炉料熔化完毕时，钢水的含碳量x与冶炼时间y（从炉料熔化完毕到出刚的时间）的一列数据，如下表所示：,（1）y与x是否具有线性相关关系； （2）如果具有线性相关关

4、系，求回归直线方程； （3）预测当钢水含碳量为160个0.01%时，应冶炼多少分钟？,(1)列出下表,并计算,所以回归直线的方程为 =1.267x-30.51,(3)当x=160时, 1.267.160-30.51=172,(2)设所求的回归方程为,例题4 从某大学中随机选出8名女大学生，其身高和体重数据如下表：,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172的女大学生的体重。,分析：由于问题中要求根据身高预报体重，因此选取身高为自变量，体重为因变量,2.回归方程：,1. 散点图；,相关系数,正相关；负相关通常，r0.75，认为两个变量有很强的相关性,本例中,由上面公式

5、r=0.7980.75,探究？,身高为172的女大学生的体重一定是60.316kg吗？如果不是,其原因是什么?,如何描述两个变量之间线性相关关系的强弱？,在数学3中，我们学习了用相关系数r来衡量两个变量 之间线性相关关系的方法。,相关系数r,相关关系的测度（相关系数取值及其意义）,r,2020/10/22,郑平正 制作,比数学3中“回归”增加的内容,数学统计 画散点图 了解最小二乘法的思想 求回归直线方程 ybxa 用回归直线方程解决应用问题,选修-统计案例 引入线性回归模型 ybxae 了解模型中随机误差项e产生的原因 了解相关指数 R2 和模型拟合的效果之间的关系 了解残差图的作用 利用线

6、性回归模型解决一类非线性回归问题 正确理解分析方法与结果,2020/10/22,郑平正 制作,回归分析的内容与步骤：,统计检验通过后，最后是利用回归模型，根据自变量去估计、预测因变量。,回归分析通过一个变量或一些变量的变化解释另一变量的变化。,其主要内容和步骤是： 首先根据理论和对问题的分析判断，将变量分为自变量和因变量；,其次，设法找出合适的数学方程式（即回归模型）描述变量间的关系；,由于涉及到的变量具有不确定性，接着还要对回归模型进行统计检验；,2020/10/22,郑平正 制作,例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,求根据一名女大学生的身高预报她的体重的

7、回归方程，并预报一名身高为 172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。,2020/10/22,郑平正 制作,分析：由于问题中要求根据身高预报体重，因此选取身高为自变量，体重为因变量,2.回归方程：,1. 散点图；,本例中, r=0.7980.75这表明体重与身高有很强的线性相关关系，从而也表明我们建立的回归模型是有意义的。,2020/10/22,郑平正 制作,探究： 身高为172cm的女大学生的体重一定是60.316kg吗？如果不

8、是，你能解析一下原因吗？,答：身高为172cm的女大学生的体重不一定是60.316kg，但一般可以认为她的体重接近于60.316kg。,即，用这个回归方程不能给出每个身高为172cm的女大学生的体重的预测值，只能给出她们平均体重的值。,2020/10/22,郑平正 制作,例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为 172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻

9、画它们之间的关系。,3、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数y=bx+a描述它们关系。,2020/10/22,郑平正 制作,我们可以用下面的线性回归模型来表示： y=bx+a+e， (3) 其中a和b为模型的未知参数，e称为随机误差。,另一方面，由于公式(1)和(2)中 和 为截距和斜率的估计值，它们与真实值a和b之间也存在误差，这种误差是引起预报值与真实值y之间误差的另一个原因。,2020/10/22,郑平正 制作,思考: 产生随机误差项e的原因是什么？,随机误差e的来源(可以推广到一般）： 1、忽略了其它因素的影响：影响身高 y 的因素不只是

10、体重 x，可能还包括遗传基因、饮食习惯、生长环境等因素； 2、用线性回归模型近似真实模型所引起的误差； 3、身高 y 的观测误差。 以上三项误差越小，说明我们的回归模型的拟合效果越好。,2020/10/22,郑平正 制作,函数模型与回归模型之间的差别,函数模型：,回归模型：,可以提供 选择模型的准则,2020/10/22,郑平正 制作,函数模型与回归模型之间的差别,函数模型：,回归模型：,线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和 随机误差项e共同确定，即自变量x只能解析部分y的变化。,在统计中，我们也把自变量x称为解析变量，因变量y称为预报变量。,所以，对于身高

11、为172cm的女大学生，由回归方程可以预报其体重为,2020/10/22,郑平正 制作,思考： 如何刻画预报变量（体重）的变化？这个变化在多大程度上 与解析变量（身高）有关？在多大程度上与随机误差有关？,假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相 同。在体重不受任何变量影响的假设下，设8名女大学生的体重都是她们的平均值， 即8个人的体重都为54.5kg。,在散点图中，所有的点应该落在同一条 水平直线上，但是观测到的数据并非如 此。这就意味着预报变量（体重）的值 受解析变量（身高）或随机误差的影响。,对回归模型进行统计检验,2020/10/22,郑平正 制作,例如，编号

12、为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解析 变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg， 所以6.5kg是解析变量和随机误差的组合效应。,编号为3的女大学生的体重并也没有落在水平直线上，她的体重为50kg。解析 变量（身高）和随机误差共同把这名学生的体重从50kg“推”到了54.5kg，相差-4.5kg， 这时解析变量和随机误差的组合效应为-4.5kg。,用这种方法可以对所有预报变量计算组合效应。,在例1中，总偏差平方和为354。,2020/10/22,郑平正 制作,那么，在这个总的效应（总偏差平方和）中，有多少来自于解析

13、变量（身高）？ 有多少来自于随机误差？,假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图 中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归 直线上。这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上 “推”开了。,在例1中，残差平方和约为128.361。,例如，编号为6的女大学生，计算随机误差的效应（残差）为：,即，,2020/10/22,郑平正 制作,由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为 128.361，所以解析变量的效应为,解析变量和随机误差的总效应（总偏差平方和） =解析变量的效应（回归平方和）

14、+随机误差的效应（残差平方和）,2020/10/22,郑平正 制作,离差平方和的分解 （三个平方和的意义）,总偏差平方和(SST) 反映因变量的 n 个观察值与其均值的总离差 回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和 残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和,2020/10/22,郑平正 制作,样本决定系数 （判定系数 R2 ）,1.回归平方和占总离差平方和的比例,反映回归直线的拟合程度 取值范围在 0 , 1 之

15、间 R2 1，说明回归方程拟合的越好；R20，说明回归方程拟合的越差 判定系数等于相关系数的平方，即R2(r)2,2020/10/22,郑平正 制作,显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。,R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量和预报变量的 线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值 来做出选择，即选取R2较大的模型作为这组数据的模型。,总的来说： 相关指数R2是度量模型拟合效果的一种指标。 在线性模型中，它代表自变量刻画预报变量的

16、能力。,2020/10/22,郑平正 制作,从表3-1中可以看出，解析变量对总效应约贡献了64%，即R2 0.64，可以叙述为 “身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。 所以，身高对体重的效应比随机误差的效应大得多。,2020/10/22,郑平正 制作,表3-2列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关， 是否可以用回归模型来拟合数据。,残差分析与残差图的定义：,然后，我们可以通过残差 来判断模型拟合的效果，判断原始 数据中是否存在可疑数据，这方面的分析工作称为残差分析。,我们可以利用图形来

17、分析残差特性，作图时纵坐标为残差，横坐标可以选为样本 编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。,2020/10/22,郑平正 制作,残差图的制作及作用。 坐标纵轴为残差变量，横轴可以有不同的选择； 若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域； 对于远离横轴的点，要特别注意。,身高与体重残差图,几点说明： 第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合

18、适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,2020/10/22,郑平正 制作,例2、在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：,求出Y对的回归直线方程，并说明拟合效果的好坏。,解：,2020/10/22,郑平正 制作,例2、在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：,求出Y对的回归直线方程，并说明拟合效果的好坏。,列出残差表为,0.994,因而，拟合效果较好。,0,0.3,-0.4,-0.1,0.2,4.6,2.6,-0.4,-2.4,-4.4,2020/10/22,郑平正 制作,这些问题也使用于其他问题。,涉及到统计

19、的一些思想： 模型适用的总体； 模型的时间性； 样本的取值范围对模型的影响； 模型预报结果的正确理解。,小结,2020/10/22,郑平正 制作,一般地，建立回归模型的基本步骤为：,（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。,（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系 （如是否存在线性关系等）。,（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.,（4）按一定规则估计回归方程中的参数（如最小二乘法）。,（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，

20、则检查数据是否有误，或模型是否合适等。,2020/10/22,郑平正 制作,什么是回归分析？ （内容）,从一组样本数据出发，确定变量之间的数学关系式 对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著 利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度,2020/10/22,郑平正 制作,回归分析与相关分析的区别,相关分析中，变量 x 变量 y 处于平等的地位；回归分析中，变量 y 称为因变量，处在被解释的地位，x 称为自变量，用于预测因变量的变化 相关分析中所涉及的变量 x 和 y

21、 都是随机变量；回归分析中，因变量 y 是随机变量，自变量 x 可以是随机变量，也可以是非随机的确定变量 相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量 x 对变量 y 的影响大小，还可以由回归方程进行预测和控制,2020/10/22,郑平正 制作,表3-2列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。,5、残差分析与残差图的定义：,然后，我们可以通过残差 来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析。,我们可以利用图形

22、来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。,2020/10/22,郑平正 制作,残差图的制作及作用 1、坐标纵轴为残差变量，横轴可以有不同的选择； 2、若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域； 3、对于远离横轴的点，要特别注意。,身高与体重残差图,几点说明： 第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的

23、模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,2020/10/22,郑平正 制作,例1 在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：,求出Y对的回归直线方程，并说明拟合效果的好坏。,解：,2020/10/22,郑平正 制作,例1 在一段时间内，某中商品的价格x元和需求量Y件之间的一组数据为：,求出Y对的回归直线方程，并说明拟合效果的好坏。,列出残差表为,0.994,因而，拟合效果较好。,0,0.3,-0.4,-0.1,0.2,4.6,2.6,-0.4,-2.4,-4.4,2020/10/22,郑平正 制作,例2 关于x与y有如下数据：

24、 有如下的两个线性模型： （1） ；（2） 试比较哪一个拟合效果更好。,2020/10/22,郑平正 制作,6、注意回归模型的适用范围：,（1）回归方程只适用于我们所研究的样本的总体。样本数据来自哪个总体的，预报时也仅适用于这个总体。 （2）模型的时效性。利用不同时间段的样本数据建立的模型，只有用来对那段时间范围的数据进行预报。 （3）建立模型时自变量的取值范围决定了预报时模型的适用范围，通常不能超出太多。 （4）在回归模型中，因变量的值不能由自变量的值完全确定。正如前面已经指出的，某个女大学生的身高为172cm，我们不能利用所建立的模型预测她的体重，只能给出身高为172cm的女大学生的平均体

25、重的预测值。,2020/10/22,郑平正 制作,7、一般地，建立回归模型的基本步骤为：,2020/10/22,郑平正 制作,案例2 一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据列于表中：,（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。 （2）你所建立的模型中温度在多大程度上解释了产卵数的变化？,2020/10/22,郑平正 制作,画散点图,假设线性回归方程为 ：=bx+a,选 模 型,所以，二次函数模型中温度解释了74.64%的产卵数变化。,探索新知,方案1,当x=28时，y =19.8728-463.73 93,一元线性模型,2020/10/22,郑

26、平正 制作,方案2,问题3,合作探究,t=x2,二次函数模型,2020/10/22,郑平正 制作,方案2解答,平方变换：令t=x2，产卵数y和温度x之间二次函数模型y=bx2+a就转化为产卵数y和温度的平方t之间线性回归模型y=bt+a,作散点图，并由计算器得：y和t之间的线性回归方程为y=0.367t-202.54，相关指数R2=r20.8962=0.802,将t=x2代入线性回归方程得： y=0.367x2 -202.54 当x=28时，y=0.367282-202.5485，且R2=0.802， 所以，二次函数模型中温度解 释了80.2%的产卵数变化。,2020/10/22,郑平正 制作

27、,产卵数,气温,指数函数模型,方案3,合作探究,对数,2020/10/22,郑平正 制作,方案3解答,当x=28oC 时，y 44 ，指数回归模型中温度解释了98.5%的产卵数的变化,由计算器得：z关于x的线性回归方程 为z=0.118x-1.665 ， 相关指数R2=r20.99252=0.985,2020/10/22,郑平正 制作,最好的模型是哪个?,线性模型,二次函数模型,指数函数模型,2020/10/22,郑平正 制作,比一比,最好的模型是哪个?,2020/10/22,郑平正 制作,回归分析（二）,则回归方程的残差计算公式分别为：,由计算可得：,因此模型（1）的拟合效果远远优于模型（2

28、）。,2020/10/22,郑平正 制作,总 结,对于给定的样本点 两个含有未知参数的模型：,其中a和b都是未知参数。拟合效果比较的步骤为： （1）分别建立对应于两个模型的回归方程 与 其中 和 分别是参数a和b的估计值； （2）分别计算两个回归方程的残差平方和 与 （3）若 则 的效果比 的好；反之， 的效果不如 的好。,2020/10/22,郑平正 制作,练习：为了研究某种细菌随时间x变化，繁殖的个数，收集数据如下：,（1）用天数作解释变量，繁殖个数作预报变量，作出这些 数据的散点图； （2） 描述解释变量与预报变量 之间的关系； （3） 计算残差、相关指数R2.,解：（1）散点图如右所示

29、,2020/10/22,郑平正 制作,（2）由散点图看出样本点分布在一条指数函数y= 的周围，于是令Z=lny,则,由计数器算得 则有,（3）,即解释变量天数对预报变量繁殖细菌得个数解释了99.99%.,2020/10/22,郑平正 制作,练习 假设关于某设备的使用年限x和所支出的维修费用 y（万元），有如下的统计资料。,若由资料知,y对x呈线性相关关系。试求： （1）线性回归方程 的回归系数 ； （2）求残差平方和； （3）求相关系数 ； （4）估计使用年限为10年时，维修费用是多少？,2020/10/22,郑平正 制作,解：,（1）由已知数据制成表格。,所以有,2020/10/22,郑平正 制作,这些问题也使用于其他问题。,涉及到统计的一些思想： 模型适用的总体； 模型的时间性； 样本的取值范围对模型的影响； 模型预报结果的正确理解。,小结,2020/10/22,郑平正 制作,练习 假设关于某设备的使用年限x和所支出的维修费用 y（万元），有如下的统计资料。,若由资料知,y对x呈线性相关关系。试求： （1）线性回归方程 的回归系数 ； （2）求残差平方和； （3）求相关系数 ； （4）估计使用年限为10年时，维修费用是多少？,2020/10/22,郑平正 制作,解：,（1）由已知数据制成表格。,所以有,