《回归分析的基本思想及其初步应用》.ppt

必修必修3(3(第二章第二章 统计统计) )知识结构知识结构 收集数据收集数据 ( (随机抽样随机抽样) )整理、分析数据整理、分析数据估计、推断估计、推断简单随机抽简单随机抽样样分层抽样分层抽样系统抽样系统抽样用样本估计总体用样本估计总体变量间的相关关系变量间的相关关系 用样本用样本的频率的频率分布估分布估计总体计总体分布分布 用样本用样本数字特数字特征估计征估计总体数总体数字特征字特征线性回归分析线性回归分析1、两个变量的关系、两个变量的关系不相关不相关相关相关关系关系函数关系函数关系线性相关线性相关非线性相关非线性相关问题问题1：现实生活中两个变量间的关系有哪：现实生活中两个变量间的关系有哪些呢？些呢？相关关系：相关关系：对于两个变量，当自变量取值一定对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量时，因变量的取值带有一定随机性的两个变量之间的关系。之间的关系。思考：相关关系与函数关系有怎样的不同？函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系 函数关系是一种理想的关系模型 相关关系在现实生活中大量存在，是更一般的情况问题问题2：对于线性相关的两个变量用什么方法：对于线性相关的两个变量用什么方法来刻划之间的关系呢？来刻划之间的关系呢？2、最小二乘估计、最小二乘估计最小二乘估计下的线性回归方程：最小二乘估计下的线性回归方程：ybxa121()()()niiiniixXyYbXX aYbX.,3.)analysisregression(.,行行预预报报并并用用回回归归直直线线方方程程进进直直线线方方程程求求回回归归点点图图其其步步骤骤为为画画散散进进行行了了研研究究的的方方法法系系的的变变量量利利用用回回归归分分析析性性相相关关关关我我们们对对两两个个具具有有线线中中数数学学在在方方法法析析的的一一种种常常用用分分系系的的两两个个变变量量进进行行统统计计是是对对具具有有相相关关关关析析回回归归分分定定性性关关系系而而相相关关关关系系是是一一种种非非确确性性关关系系函函数数关关系系是是一一种种确确定定我我们们知知道道.11,81所示重数据如表其身高和体名女大学生从某大学中随机选取例5943616454505748kg/170155165175170157165165cm/87654321体体重重身身高高编编号号.cm172,的的女女大大学学生生的的体体重重并并预预报报一一名名身身高高为为归归方方程程身身高高预预报报她她的的体体重重的的回回求求根根据据一一名名女女大大学学生生的的: ) 11 . 1(.,图图作散点体重为因变量真实取身高为自变量因此选据身高预报体重由于问题中要求根解yx11 . 1图xy.,11 . 1画它们之间的关系刻性回归方程以用线因此可线性相关关系较好的重有比高和体身样本点呈条状分布中可以看出从图,85.712,0.849.0.84985.712.abyx 根据线性回归方程中的系数公式 可以得到于是得到回归方程.kg316.60712.85172849.0y,cm172,预报其体重为由回归方程可以的女大学生对身高为所以11 . 1图xy:,y,x,y,x,y,xnn2211二乘估计公式分别为二乘估计公式分别为截距和斜率的最小截距和斜率的最小我们知道其回归方程的我们知道其回归方程的关系的数据关系的数据对于一组具有线性相关对于一组具有线性相关探究探究 1xbya 2,xxyyxxbn1i2in1iii111,.,nniiiixx yyx yn其中称为。样样本本点点的的中中心心.心心回回归归直直线线过过样样本本点点的的中中0.849,1,0.849,.bxy是斜率的估计值说明身高 每增加个单位时体重 就增加个单位这表明体重与身高具有正的线性相关关系?,?kg316.60cm172其原因是什么其原因是什么不是不是如果如果吗吗是是女大学生的体重一定女大学生的体重一定的的身高身高探究探究.21 . 1.316.60316.60172,位置说明了这一点本点和回归直线的相互中的样图以认为她的体重接近于但一般可是大学生的体重不一定的女身高显然kgkgcm21 . 1图 ,:,1ybxae由于所有的样本点不共线 而只是散布在某一条直线的附近 所以身高和体重的关系可用下面的线性回归模型来表示.y,x,yx,exy,称称为为预预报报变变量量把把称称为为解解释释变变量量因因此此我我们们把把的的变变化化只只能能解解释释部部分分即即共共同同确确定定素素和和随随机机因因的的值值由由在在回回归归模模型型中中与与函函数数关关系系不不同同,.,.:abeyybxae这里 和 为模型的未知参数 是 与之间的误差通常 为随机变量 称为这样线性回归模型的完整表达式为随机误差随机误差ybxae?e的的原原因因是是什什么么产产生生随随机机误误差差项项思思考考.,.,的产生差项误机随所有这些因素都会导致是一种近似的模型型往往只我们选用的线性模另外动、度量误差等食习惯、是否喜欢运例如饮许多其他因素的影响还受身高的影响外一个人的体重值除了受实际上e,?ey探究在线性回归模型中 是用bx+a预报真实值 的随机误差 它是一个不可观测的量 那么应该怎样研究随机误差 如何衡量预报的精度 12 ,ybxa根据截距和斜率的估计公式和可以建立回归方程 1.,.yeyeyye因此 是中的 bx+a的估计值由于随机误差（bx+a）所以是 的估计量 1122,1,2, .nniiix yxyxyeybxa in对于样本点而言 相应它们的随机误差为,1,2, ,().iiiiiiiieyyybxa inex yresidual其估计值为称为相应于点的残差.,e ,e ,e ,.,n21这这方方面面的的分分析析工工作作称称为为在在可可疑疑数数据据判判断断原原始始数数据据中中是是否否存存来来判判断断模模型型拟拟合合的的效效果果可可以以通通过过残残差差然然后后性性回回归归模模型型来来拟拟合合数数据据是是否否可可以以用用线线线线性性相相关关来来粗粗略略判判断断它它们们是是否否相相首首先先要要根根据据散散点点图图系系时时在在研研究究两两个个变变量量间间的的关关 残差分析残差分析.21相应的残差数据重的原始数据以及列出女大学生身高和体表 382.0883.2627.6137.1618.4419.2627.2373.6e 5943616454505748kg/170155165175170157165165cm/87654321残残差差体体重重身身高高编编号号编号编号残差残差31 . 1图.31 .1.,.残差图坐标的样本编号为横是以图这样作出的图形为等或体重估计值高数据或身可选为样本编号横坐标纵坐标为残差作图时分析残差特性我们可以利用图形来残残差差图图编号编号残差残差31 . 1图.,.,;,.,61,31 .1越高回归方程的预报精确度拟合精度越高说明模型区域的宽度越窄均匀地落在水平的带状残差点比较另外则需要寻找其他的原因没有错误如果数据采集合数据归模型拟性回利用线然后再重新予以纠正就果数据采集有错误如是否有人为的错误点的过程中两个样本需要确认在采集这大个样本点的残差比较个样本点和第第出中可以看从图.yyy y1R:,R,n1i2in1i2ii22其其计计算算公公式式是是来来刻刻画画回回归归的的效效果果我我们们还还可可以以用用相相关关指指数数另另外外如果对某组数据如果对某组数据关性越强关性越强量和预报变量的线性相量和预报变量的线性相表示解释变表示解释变越接近于越接近于因为因为表示回归的效果越好表示回归的效果越好接近于接近于越越化的贡献率化的贡献率释变量对于预报变量变释变量对于预报变量变表示解表示解在线性回归模型中在线性回归模型中模型的拟合效果越好模型的拟合效果越好也就是说也就是说意味着残差平方和越小意味着残差平方和越小取值越大取值越大显然显然. ), 1R(, 1R.R,.,R,2222.R,R,22据据的的模模型型大大的的模模型型作作为为这这组组数数选选择择可可以以通通过过比比较较几几个个也也回回归归分分析析种种不不同同的的回回归归方方程程进进行行取取几几可可能能性性采采.%64, %64,64.0R,12高引起的高引起的是由身是由身女大学生体重差异有女大学生体重差异有或者说或者说体重变化体重变化的的女大学生身高解释了女大学生身高解释了表明表明中中在例在例:,需要注意下列问题用身高预报体重时.,.,.1系木的高与直径之间的关描述北方干旱地区的树方程的高与直径之间的回归在南方多雨地区的树木不能用生长同样之间的关系女运动员的身高和体重描述和体重之间的回归方程不能用女大学生的身高例如所研究的样本的总体回归方程只适用于我们.,8020,.2之间的关系描述现在的身高和体重方程建立的回归年代的身高体重数据所世纪能用不例如一般都有时间性我们所建立的回归方程.),ycm70 x,cm170,cm155x,(,.3显然不合适值时的程计算而用这个方的样本的取值范围为解释变量即在回归方程中重之间的关系就不恰当幼儿时期的身高和体那么用它来描述一个人立的建大学生身高和体重数据我们的回归方程是由女例如归方程的适用范围样本取值范围会影响回.,.4值的平均值它是预报变量的可能取事实上精确值的的预报值就是预报变量不能期望回归方程得到:,骤为骤为建立回归模型的基本步建立回归模型的基本步一般地一般地 ;,1量量是是预预报报变变量量哪哪个个变变量量明明确确哪哪个个变变量量是是解解释释变变确确定定研研究究对对象象 ;,2如如是是否否存存在在线线性性关关系系等等观观察察它它们们之之间间的的关关系系散散点点图图释释主主变变量量和和预预报报变变量量的的画画出出确确定定好好的的解解 );abxy,(3则选用线性回归方程则选用线性回归方程线性关系线性关系如我们观察到数据呈如我们观察到数据呈型型由经验确定回归方程类由经验确定回归方程类 );(4乘法乘法如最小二如最小二程中的参数程中的参数按一定规则估计回归方按一定规则估计回归方 .,),(5或或模模型型是是否否合合适适等等则则检检查查数数据据是是否否有有误误在在异异常常若若存存律律性性等等等等或或残残差差呈呈现现不不随随机机的的规规应应残残差差过过大大个个别别数数据据对对是是否否有有异异常常得得出出结结果果后后分分析析残残差差图图.,317.2之间的回归方程与试建立中观察数据列于表组现收集了有关和温度一只红铃虫的产卵数例xyxy31表325115662421117/y35322927252321C/0个个产产卵卵数数温温度度41 . 1图温度温度产卵数产卵数.41 . 1据作散点图根据收集的数解所以不能相关关系线性个变量不呈线因此两带状区域内某个布在有分并没样本点在散点图中,.cc,ecy,.21xc12是待定参数和其中的周围指数函数曲线某一条可以发现样本点分布在根据已有的函数知识系立两个变量之间的关建来直接利用线性回归方程 .xy,.)cb,clna(abxz, ylnz.cc,2121了间的非线性回归方程之和型来建立就可以利用线性回归模这样的周围直线换后样本点应该分布在则变令系变为线性关过对数变换把指数关系我们可以通和参数问题变为如何估计待定现在 .,abxy线线性性回回归归方方程程我我们们称称之之为为非非时时当当回回归归方方程程不不是是形形如如图的样本数据表的数据可以得到变换后由表, 4131.,51 . 1.4151 . 1用线性回归方程来拟合因此可以一条直线的附近变换后的样本点分布在看出中可以从图中数据的散点图给出了表784.5745.4190.4178.3045.3398.2946.1z35322927252321x41表产卵数的对数温度51 . 1图.843. 3272. 041xz到线性回归方程中的数据得由表回归方程为数对温度的非线性因此红铃虫的产卵 6ey 843.3x272.01.,.,41 . 1,243423非线性回归方程之间的与从而得到之间的线性回归方程与立然后建即令变换因此可以对温度变量做数为待定参和其中的附近次曲线中样本点集中在某二可以认为图另一方面xytyxtcccxcy.61 . 1,51是相应的散点图图应的温度的平方是红铃虫的产卵数和对表325115662421117y12251024841729625529441t51表.,61 . 1423下面介绍具体方法到还可以通过残差分析得这个结论之间的关系与来拟合二次曲线即不宜用合它回归方程来拟此不宜用线性因直线的周围不分布在一条的散点图并与可以看出中从图xycxcyty温度的平方数卵产61 . 1图中用线性回归模型拟合表的二次回归方程关于下面建立的指数回归方程关于前面已经建立了方程归需要建立两个相应的回残差为比较两个不同模型的51.,.,xyxy 7.54.202x367.0y xy,54.202t367.0y ty,222的二次回归方程为关于即的线性回归方程关于得到的数据 的残差计算公式分别为和则回归方程列的数据行第第表示表用的拟合效果和个回归方程可以通过残差来比较两76,1151.76ixi ; 7 , 2 , 1i ,eyy ye 843.3x272.0i1ii1i .7 , 2 , 1i ,54.202x367.0yy ye 2ii2ii2i .76,76.61的拟合效果好型的拟合效果比模因此模型的残差的绝对值小模型的残差的绝对值显然比模型从表中的数据可以看出残差的两个回归方程的给出了原始数据及相应表 965.77268.58107.4041003835.5397.19693.47e 928.32153.14889.8149.9760.1617.0518.0e 325115662421117y35322927252321x2161表 .76.432.15448,673.14507661.,.,.,21型的拟合效果远远优于模因此模型的残差平方和分别为和算出模型容易由表拟合的效果越好残差平方和越小的模型合效果的大小来判断模型的拟两个模型的残差平方和这时可以通过比较则相反而另一些样本点的情况的小型差的绝对值比另一个模的残某些样本点上一个模型原因是在较困难比较两个模型的残差比在一般情况下QQ ,b, xgya, xfy,y,x,y,x,y,x21nn2211 和和含含有有未未知知数数的的模模型型两两个个对对于于给给定定的的样样本本点点:.ba较较它它们们的的拟拟合合效效果果可可以以按按如如下下的的步步骤骤来来比比都都是是未未知知参参数数和和其其中中 ;baba ,b, xgy a , xfy 121的估计值的估计值和和分别是参数分别是参数和和其中其中与与型的回归方程型的回归方程分别建立对应于两个模分别建立对应于两个模 ;y yQy yQ2n1i22iin1i221ii1与与的残差平方和的残差平方和分别计算两个回归方程分别计算两个回归方程 .b, xgy a , xfy ,;b, xgy a , xfy ,QQ3212121的好的好的效果不如的效果不如反之反之的好的好的效果比的效果比则则若若