31回归分析的基本思想及其初步应用2课件.ppt

3.1回归分析的基本思回归分析的基本思想及其初步应用想及其初步应用教学目标 w通过典型案例，掌握回归分析的 基本思想及其初步应用。w教学重点教学重点：熟练掌握回归分析的 步骤。w教学难点教学难点：求回归系数 a , b 及残 差分析必修必修3(3(第二章第二章 统计统计) )知识结构知识结构 收集数据收集数据 ( (随机抽样随机抽样) )整理、分析数据整理、分析数据估计、推断估计、推断简单随机抽简单随机抽样样分层抽样分层抽样系统抽样系统抽样用样本估计总体用样本估计总体变量间的相关关系变量间的相关关系 用样本用样本的频率的频率分布估分布估计总体计总体分布分布 用样本用样本数字特数字特征估计征估计总体数总体数字特征字特征线性回归分析线性回归分析1、两个变量的关系、两个变量的关系不相关不相关相关相关关系关系函数关系函数关系线性相关线性相关非线性相关非线性相关问题问题1：现实生活中两个变量间的关系有哪：现实生活中两个变量间的关系有哪些呢？些呢？相关关系：相关关系：对于两个变量，当自变量取值一定对于两个变量，当自变量取值一定 时，因变量的取值带有一定随机性的两个变量时，因变量的取值带有一定随机性的两个变量之间的关系。之间的关系。思考：相关关系与函数关系有怎样的不同？w函数关系中的两个变量间是一种确定性关系w相关关系是一种非确定性关系 函数关系是一种理想的关系模型函数关系是一种理想的关系模型 相关关系在现实生活中大量存在，是更一相关关系在现实生活中大量存在，是更一般的情况般的情况问题问题2：对于线性相关的两个变量用什么方法：对于线性相关的两个变量用什么方法来刻划之间的关系呢？来刻划之间的关系呢？最小二乘估计最小二乘估计最小二乘估计下的线性回归方程：最小二乘估计下的线性回归方程：ybxa121()()()niiiniixXyYbXX aYbX3、回归分析的基本步骤回归分析的基本步骤:画散点图画散点图求回归直线方程求回归直线方程利用回归直线方程进行预报利用回归直线方程进行预报 :,2211二乘估计公式分别为截距和斜率的最小我们知道其回归方程的关系的数据对于一组具有线性相关探究nnyxyxyx 1xbya 2,xxyyxxbn1i2in1iii?.y, x.yy,xn1xn1iin1ii公公式式吗吗你你能能推推导导出出这这两两个个计计算算称称为为其其中中样样本本点点的的中中心心.心心回回归归直直线线过过样样本本点点的的中中., xy, Qba ,n1i2ii的值取最小值时分别是使和斜率截距从已经学过的知识知道 n1i2iixyxyxy, Q由于2n1iii2iixyxyxyxy2xyxy,xynxyxyxy2xyxy2n1iiin1i2iixyxyxyn1iii注意到n1iiixyxyxyn1in1iiixynxyxy, 0 xynxnynxy2n1i2iixynxyxy, Q所以2n1i2iin1in1ii2i2xynyyyyxx2xx2n1i2in1iiin1i2i2xxyyxxxxxyn.yyxxyyxxn1i2in1i2i2n1iii即有均为当且仅当前两项的值取最小值因此要使数而前两项为非负无关后两项和在上式中, 0,Q, ,.xy,xxyyxxn1i2in1iii.公式这正是我们所要推导的.,基基本本思思想想及及其其应应用用进进一一步步学学习习回回归归分分析析的的下下面面我我们们通通过过案案例例.11,81所示重数据如表其身高和体名女大学生从某大学中随机选取例5943616454505748kg/170155165175170157165165cm/87654321体体重重身身高高编编号号.cm172,的的女女大大学学生生的的体体重重并并预预报报一一名名身身高高为为归归方方程程身身高高预预报报她她的的体体重重的的回回求求根根据据一一名名女女大大学学生生的的: ) 11 . 1(.,图图作散点体重为因变量真实取身高为自变量因此选据身高预报体重由于问题中要求根解yx11 . 1图xy.,11 . 1画它们之间的关系刻性回归方程以用线因此可线性相关关系较好的重有比高和体身样本点呈条状分布中可以看出从图 .712.85x 849.0y .849.0b,712.85a ,21于是得到回归方程可以得到和根据探究中的公式.kg316.60712.85172849.0y,cm172,预报其体重为由回归方程可以的女大学生对身高为所以11 . 1图xy?.,849.0y,1x,849.0b的强弱它们之间线性相关关系如何描述性相关关系体重与身高具有正的线这表明个单位就增加体重个单位时每增加说明身高是斜率的估计值为关系数的具体计算公式样本相关系的方法两个变量之间线性相关来衡量我们介绍了用相关系数中在必修.r,3.yyxxyyxxrn1in1i2i2in1iii.75. 0,.,0;, 1.,0;,0强的线性相关关系时认为两个变量有很大于当通常关系不存在线性相关表明两个变量之间几乎时越接近于性越强明两个变量的线性相关表的绝对值越接近表明两个变量负相关时当表明两个变量正相关时当rrrrr.,798.0r,有意义的我们建立的回归模型是从而也表明关关系与身高有很强的线性相这表明体重可以计算出在本例中?,?kg316.60cm172其原因是什么其原因是什么不是不是如果如果吗吗是是女大学生的体重一定女大学生的体重一定的的身高身高探究探究.21 . 1.316.60316.60172,位置说明了这一点本点和回归直线的相互中的样图以认为她的体重接近于但一般可是大学生的体重不一定的女身高显然kgkgcm21 . 1图 3, eabxy:,回归模型来表示可用下面的线性所以身高和体重的关系线的附近而只是散布在某一条直线由于所有的样本点不共.y,x,yx,exy,称为预报变量称为预报变量把把称为解释变量称为解释变量因此我们把因此我们把的变化的变化只能解释部分只能解释部分即即共同确定共同确定素素和随机因和随机因的值由的值由在回归模型中在回归模型中与函数关系不同与函数关系不同 :.0eD, 0eE,e.abxyye,ba2整表达式为整表达式为这样线性回归模型的完这样线性回归模型的完方差方差它的均值它的均值称为称为为随机变量为随机变量通常通常的误差的误差之间之间与与是是为模型的未知参数为模型的未知参数和和这里这里随机误差随机误差 .eD, 0eE,eabxy2 4 随随机机误误差差是是引引起起预预报报的的精精度度越越高高预预报报真真实实值值通通过过回回归归直直线线越越小小的的方方差差随随机机误误差差中中在在线线性性回回归归模模型型.y5,abxy,e,42.,yy 取取决决于于随随机机误误差差的的方方差差其其大大小小之之间间的的误误差差的的原原因因之之一一与与真真实实值值值值 .yy ,ba,ba 21,另另一一个个原原因因之之间间误误差差的的与与真真实实值值这这种种误误差差是是引引起起预预报报值值之之间间也也存存在在误误差差和和它它们们与与真真实实值值的的估估计计值值为为截截距距和和斜斜率率和和中中和和由由于于公公式式另另一一方方面面?e的原因是什么的原因是什么产生随机误差项产生随机误差项思考思考.,.,的产生差项误机随所有这些因素都会导致是一种近似的模型型往往只我们选用的线性模另外动、度量误差等食习惯、是否喜欢运例如饮许多其他因素的影响还受身高的影响外一个人的体重值除了受实际上e?,如何衡量预报的精度随机误差那么应该怎样研究它是一个不可观测的量误差的预报真实值是用在线性回归模型中探究yye., 0,.,2随机误差的大小来衡量因此可以用方差而随机误差的均值为于均值程度的数字特征差是反映随机变量集中方平均水平的数字特征值是反映随机变量取值均画它的一些总体特征机变量的数字特征来刻因此可以通过这个随量因为随机误差是随机变 .e,y,ye43?e.,2的的样样本本变变量量因因此此也也就就无无法法得得到到随随机机分分离离出出来来中中我我们们无无法法精精确确地地把把它它从从中中隐隐含含在在预预报报变变量量中中的的或或由由于于模模型型的的样样本本呢呢到到随随机机变变量量如如何何得得来来估估计计总总体体方方差差的的想想法法是是通通过过样样本本方方差差一一个个自自然然的的值值需需要要估估计计为为了了衡衡量量预预报报的的精精度度 , a xby ,21.2归方程可以建立回和公式根据截距和斜率的估计样本的估计值来估计解决问题的途径是通过 .ey ye , yye.y5y 的估计量是所以由于随机误差的估计值中是因此. n, 2 , 1i , abxyyye,y,x,y,x,y,xiiiiinn2211 相应它们的随机误差为相应它们的随机误差为而言而言对于样本点对于样本点, n, 2 , 1i , a xbyy ye iiiii 其估计值为其估计值为2nb, a Q2n1e 2n1 ,).residual(y,xe n1i22iii可以用可以用差估计总体方差的思想差估计总体方差的思想类比样本方类比样本方的的称为相应于点称为相应于点残差残差 ., . ).squaresofsumresidual(b, a Q,21ba ,222预报精度越高预报精度越高越小越小度度衡量回归方程的预报精衡量回归方程的预报精可以用可以用称为称为给出给出由公式由公式和和其中其中的估计值的估计值作为作为残差平方和残差平方和.2n效效果果是是为为了了达达到到更更好好的的估估计计公公式式中中的的分分母母取取 .xxyyxxb2. xbya :1n1i21n1iii公公式式公公式式?0?21吗吗为为报报误误差差性性回回归归方方程程的的预预用用这这样样的的样样本本建建立立的的线线时时残残差差平平方方和和为为多多少少或或当当样样本本容容量量为为思思考考.,e ,e ,e ,.,n21这这方方面面的的分分析析工工作作称称为为在在可可疑疑数数据据判判断断原原始始数数据据中中是是否否存存来来判判断断模模型型拟拟合合的的效效果果可可以以通通过过残残差差然然后后性性回回归归模模型型来来拟拟合合数数据据是是否否可可以以用用线线线线性性相相关关来来粗粗略略判判断断它它们们是是否否相相首首先先要要根根据据散散点点图图系系时时在在研研究究两两个个变变量量间间的的关关 残差分析残差分析.21相应的残差数据重的原始数据以及列出女大学生身高和体表 382.0883.2627.6137.1618.4419.2627.2373.6e 5943616454505748kg/170155165175170157165165cm/87654321残差残差体重体重身高身高编号编号编号编号残差残差31 . 1图.31 . 1.,.残差图坐标的样本编号为横是以图这样作出的图形为等或体重估计值高数据或身可选为样本编号横坐标纵坐标为残差作图时分析残差特性我们可以利用图形来残残差差图图编号编号残差残差31 . 1图.,.,;,.,61,31 .1越高越高回归方程的预报精确度回归方程的预报精确度拟合精度越高拟合精度越高说明模型说明模型区域的宽度越窄区域的宽度越窄均匀地落在水平的带状均匀地落在水平的带状残差点比较残差点比较另外另外则需要寻找其他的原因则需要寻找其他的原因没有错误没有错误如果数据采集如果数据采集合数据合数据归模型拟归模型拟性回性回利用线利用线然后再重新然后再重新予以纠正予以纠正就就果数据采集有错误果数据采集有错误如如是否有人为的错误是否有人为的错误点的过程中点的过程中两个样本两个样本需要确认在采集这需要确认在采集这大大个样本点的残差比较个样本点的残差比较个样本点和第个样本点和第第第出出中可以看中可以看从图从图 .yyy y1R:,R,n1i2in1i2ii22其计算公式是其计算公式是来刻画回归的效果来刻画回归的效果我们还可以用相关指数我们还可以用相关指数另外另外.rR,2的平方的平方系数系数恰好等于相关恰好等于相关线性模型中线性模型中在含有一个解释变量的在含有一个解释变量的如果对某组数据如果对某组数据关性越强关性越强量和预报变量的线性相量和预报变量的线性相表示解释变表示解释变越接近于越接近于因为因为表示回归的效果越好表示回归的效果越好接近于接近于越越化的贡献率化的贡献率释变量对于预报变量变释变量对于预报变量变表示解表示解在线性回归模型中在线性回归模型中模型的拟合效果越好模型的拟合效果越好也就是说也就是说意味着残差平方和越小意味着残差平方和越小取值越大取值越大显然显然. ), 1R(, 1R.R,.,R,2222.R,R,22据的模型据的模型大的模型作为这组数大的模型作为这组数选择选择可以通过比较几个可以通过比较几个也也回归分析回归分析种不同的回归方程进行种不同的回归方程进行取几取几可能性采可能性采.%64, %64,64.0R,12高引起的高引起的是由身是由身女大学生体重差异有女大学生体重差异有或者说或者说体重变化体重变化的的女大学生身高解释了女大学生身高解释了表明表明中中在例在例:,需要注意下列问题用身高预报体重时.,.,.1系木的高与直径之间的关描述北方干旱地区的树方程的高与直径之间的回归在南方多雨地区的树木不能用生长同样之间的关系女运动员的身高和体重描述和体重之间的回归方程不能用女大学生的身高例如所研究的样本的总体回归方程只适用于我们.,8020,.2之间的关系描述现在的身高和体重方程建立的回归年代的身高体重数据所世纪能用不例如一般都有时间性我们所建立的回归方程.),ycm70 x,cm170,cm155x,(,.3显然不合适值时的程计算而用这个方的样本的取值范围为解释变量即在回归方程中重之间的关系就不恰当幼儿时期的身高和体那么用它来描述一个人立的建大学生身高和体重数据我们的回归方程是由女例如归方程的适用范围样本取值范围会影响回.,.4值的平均值它是预报变量的可能取事实上精确值的的预报值就是预报变量不能期望回归方程得到:,骤为骤为建立回归模型的基本步建立回归模型的基本步一般地一般地 ;,1量是预报变量量是预报变量哪个变哪个变量量明确哪个变量是解释变明确哪个变量是解释变确定研究对象确定研究对象 ;,2如是否存在线性关系等如是否存在线性关系等观察它们之间的关系观察它们之间的关系散点图散点图释主变量和预报变量的释主变量和预报变量的画出确定好的解画出确定好的解 );abxy,(3则选用线性回归方程则选用线性回归方程线性关系线性关系如我们观察到数据呈如我们观察到数据呈型型由经验确定回归方程类由经验确定回归方程类 );(4乘法乘法如最小二如最小二程中的参数程中的参数按一定规则估计回归方按一定规则估计回归方 .,),(5或模型是否合适等或模型是否合适等则检查数据是否有误则检查数据是否有误在异常在异常若存若存律性等等律性等等或残差呈现不随机的规或残差呈现不随机的规应残差过大应残差过大个别数据对个别数据对是否有异常是否有异常得出结果后分析残差图得出结果后分析残差图.,317.2之间的回归方程与试建立中观察数据列于表组现收集了有关和温度一只红铃虫的产卵数例xyxy31表325115662421117/y35322927252321C/0个个产卵数产卵数温度温度41 . 1图温度温度产卵数产卵数.41 . 1据作散点图根据收集的数解所以不能相关关系线性个变量不呈线因此两带状区域内某个布在有分并没样本点在散点图中,.cc,ecy,.21xc12是待定参数和其中的周围指数函数曲线某一条可以发现样本点分布在根据已有的函数知识系立两个变量之间的关建来直接利用线性回归方程 .xy,.)cb,clna(abxz, ylnz.cc,2121了间的非线性回归方程之和型来建立就可以利用线性回归模这样的周围直线换后样本点应该分布在则变令系变为线性关过对数变换把指数关系我们可以通和参数问题变为如何估计待定现在 .,abxy线线性性回回归归方方程程我我们们称称之之为为非非时时当当回回归归方方程程不不是是形形如如图的样本数据表的数据可以得到变换后由表, 4131.,51 . 1.4151 . 1用线性回归方程来拟合因此可以一条直线的附近变换后的样本点分布在看出中可以从图中数据的散点图给出了表784.5745.4190.4178.3045.3398.2946.1z35322927252321x41表产卵数的对数温度51 . 1图.843. 3272. 041xz到线性回归方程中的数据得由表回归方程为数对温度的非线性因此红铃虫的产卵 6ey 843.3x272.01.,.,41 . 1,243423非线性回归方程之间的与从而得到之间的线性回归方程与立然后建即令变换因此可以对温度变量做数为待定参和其中的附近次曲线中样本点集中在某二可以认为图另一方面xytyxtcccxcy.61 . 1,51是相应的散点图图应的温度的平方是红铃虫的产卵数和对表325115662421117y12251024841729625529441t51表.,61 . 1423下面介绍具体方法到还可以通过残差分析得这个结论之间的关系与来拟合二次曲线即不宜用合它回归方程来拟此不宜用线性因直线的周围不分布在一条的散点图并与可以看出中从图xycxcyty温度的平方数卵产61 . 1图中用线性回归模型拟合表的二次回归方程关于下面建立的指数回归方程关于前面已经建立了方程归需要建立两个相应的回残差为比较两个不同模型的51.,.,xyxy 7.54.202x367.0y xy,54.202t367.0y ty,222的二次回归方程为关于即的线性回归方程关于得到的数据 的残差计算公式分别为和则回归方程列的数据行第第表示表用的拟合效果和个回归方程可以通过残差来比较两76,1151.76ixi ; 7 , 2 , 1i ,eyy ye 843.3x272.0i1ii1i .7 , 2 , 1i ,54.202x367.0yy ye 2ii2ii2i .76,76.61的拟合效果好型的拟合效果比模因此模型的残差的绝对值小模型的残差的绝对值显然比模型从表中的数据可以看出残差的两个回归方程的给出了原始数据及相应表 965.77268.58107.4041003835.5397.19693.47e 928.32153.14889.8149.9760.1617.0518.0e 325115662421117y35322927252321x2161表 .76.432.15448,673.14507661.,.,.,21型的拟合效果远远优于模因此模型的残差平方和分别为和算出模型容易由表拟合的效果越好残差平方和越小的模型合效果的大小来判断模型的拟两个模型的残差平方和这时可以通过比较则相反而另一些样本点的情况的小型差的绝对值比另一个模的残某些样本点上一个模型原因是在较困难比较两个模型的残差比在一般情况下QQ ,b, xgya, xfy,y,x,y,x,y,x21nn2211 和和含有未知数的模型含有未知数的模型两个两个对于给定的样本点对于给定的样本点:.ba较它们的拟合效果较它们的拟合效果可以按如下的步骤来比可以按如下的步骤来比都是未知参数都是未知参数和和其中其中 ;baba ,b, xgy a , xfy 121的估计值的估计值和和分别是参数分别是参数和和其中其中与与型的回归方程型的回归方程分别建立对应于两个模分别建立对应于两个模 ;y yQy yQ2n1i22iin1i221ii1与与的残差平方和的残差平方和分别计算两个回归方程分别计算两个回归方程 .b, xgy a , xfy ,;b, xgy a , xfy ,QQ3212121的好的好的效果不如的效果不如反之反之的好的好的效果比的效果比则则若若