统计学直线回归与相关.pptx
会计学1统计学直线回归与相关统计学直线回归与相关第一节第一节 直线回归直线回归n n一、概述n n1、函数关系与回归关系n n函数关系：自变量取某一数值时，应变量有一函数关系：自变量取某一数值时，应变量有一个完全确定的数值与之对应。（多见于物理、个完全确定的数值与之对应。（多见于物理、化学等学科，生物医学界不少变量间有一定的化学等学科，生物医学界不少变量间有一定的关系，但不是十分明确）关系，但不是十分明确）n n回归关系：应变量随自变量的变化而变化，且回归关系：应变量随自变量的变化而变化，且呈直线趋势，但并非所有的点子都在一直线上。呈直线趋势，但并非所有的点子都在一直线上。第1页/共36页n n直线回归分析的任务：找出一条直线回归分析的任务：找出一条最能代表这些数据关系的一条直最能代表这些数据关系的一条直线。线。n n方法：一般采用最小二乘法方法：一般采用最小二乘法least least square methodsquare method找出一条各实测点与找出一条各实测点与它的纵向距离的平方和为最小的它的纵向距离的平方和为最小的直线回归方程。又称作最小二乘直线回归方程。又称作最小二乘回归回归n n变量变量y y随变量随变量x x而变化，称而变化，称x x为自变为自变量量independent variableindependent variable，y y为应变量为应变量dependent variable.dependent variable.第2页/共36页n n2、直线回归方程n n直线方程：直线方程：y=a+bxy=a+bxn n直线回归方程：直线回归方程：n na a：为回归直线在为回归直线在Y Y轴上的截距轴上的截距interceptintercept，a0a0表示直线与纵轴的表示直线与纵轴的交点在原点的上方，交点在原点的上方，a0aobo直线从直线从左下走向右上左下走向右上,b0b0从左上走向右从左上走向右下下,b=0b=0直线与横轴平行。意义：直线与横轴平行。意义：x x每增每增(减减)一单位，一单位，Y Y平均改变平均改变b b个个单位单位第3页/共36页n n3、最小二乘法n n样本含量为样本含量为n n的的样本资料标在的的样本资料标在(x,y)x,y)平面上，可得平面上，可得n n个点，故可个点，故可确定很多直线，直线回归的主要确定很多直线，直线回归的主要目标之一是用实测的目标之一是用实测的x x估计估计y y，所所以希望估计的以希望估计的y y与实测的与实测的y y间的误间的误差愈小愈好。即从所有直线中找差愈小愈好。即从所有直线中找到一条直线使估计误差平方和达到一条直线使估计误差平方和达最小。最小。n n即即 最小最小第4页/共36页二、求直线回归方程的基本方法二、求直线回归方程的基本方法第5页/共36页n nP110例91：n n1)由原始数据绘散点图，各点分布呈直线趋势，故作下列计算n n2)求x,y,x2,y2,xyn n3)计算x,y的均数，lxx、lyy和lxyn4)求回归系数b和截距an n5)列出回归方程第6页/共36页n n6)直线回归方程图示：在自变量x的实测全距范围内任取相距较远且易读的两x值，代入回归方程求y的估计值，在图绘出两点连成直线。n n注意：所绘直线必然通过 ，若纵坐标、横坐标无折断号时，将此直线左端延长与纵轴相交，交点的纵坐标必然等于截距a，这两点可用来核对回归线绘制是否正确。第7页/共36页第二节第二节 直线回归分析中误差及直线回归分析中误差及可信区间可信区间n n一、标准估计误差n n估计误差估计误差error of estimateerror of estimate：在直线回归中，各实在直线回归中，各实际值际值y y与由回归方程计算出的估计值之间有一定与由回归方程计算出的估计值之间有一定的误差，称。这种离差可以用类似标准差的的误差，称。这种离差可以用类似标准差的式子进行计算，称为标准估计误差式子进行计算，称为标准估计误差standard error standard error of estimateof estimate。由于由于 决定于均数和回归系数，所决定于均数和回归系数，所以自由度为以自由度为n-2n-2第8页/共36页n nlyy的分析:n np点的纵坐标被回归线、均数y 截成三段n nSS总SS回SS剩第9页/共36页YXP y-y y-y -y-yy第10页/共36页n n各实测点离回归直线越近，剩余平方和愈小，说明直线回归的估计误差愈小n n总回剩n n总n1，回1，剩n2第11页/共36页n n二、实测值围绕回归线的离散度n n回归分析时假设：X取某一值时，Y围绕回归线x呈正态分布，Sy.x是其标准差的估计值。n n故可估计出约有95观测值y在总体回归线y=x上下1.96个标准估计误差范围内，见P112图93第12页/共36页n n三、回归系数的标准误n n表示：样本回归系数b对总体回归系数进行估计时误差的大小n n求的95可信区间n nbt0.05()Sb，自由度=n-2第13页/共36页n n四、的标准误n ny的标准误本应由Sy/n求得，但因在直线回归当中x的影响被扣除后，y方面的变异减小，故y的标准误，即x=x时y的标准误为n n五、的可信区间n n 是总体均数 的估计值第14页/共36页n n95可信区间：n n六、的标准误n n当xix时，的变异不仅决定于y的误差，也与回归系数b的误差有关第15页/共36页n n七、(个体y值)的可信区间n n理论上，每个xi对应的y估计值都有一个区间估计，把这些可信区间的上限和下限连起来，为两条曲线。把这两条曲线间的空间称为回归直线的可信区间。第16页/共36页n n八、截距的误差及总体参数的可信区间n n由于截距是x=0时y的估计值，n n九、单一个体yi值的范围预测第17页/共36页第三节第三节 回归系数和截距的统计回归系数和截距的统计意义检验意义检验n n一、回归系数的一、回归系数的t t检验检验第18页/共36页n n二、回归系数的方差分析n n所得结论与t检验相同第19页/共36页n n三、两个回归系数差别的统计意义检验n nP119,例9-3第20页/共36页n n四、截距的统计意义检验四、截距的统计意义检验n n检验检验a a是否是从总体截距为是否是从总体截距为0 0的总体中抽样得到的总体中抽样得到n nt=a/St=a/Sa a 自由度为自由度为n-2n-2n n五、两条回归线高度差别的统计意义检验五、两条回归线高度差别的统计意义检验n n当两条回归线的回归系数的差别无统计意义时，当两条回归线的回归系数的差别无统计意义时，可以用一公共的斜率来拟合此两条回归线。可以用一公共的斜率来拟合此两条回归线。(见见P121P121，一般了解一般了解)第21页/共36页第四节第四节 直线回归方程的应用直线回归方程的应用n n一、描述两变量的依存关系n n二、利用回归方程进行预测n n三、利用回归方程进行统计控制n n统计控制：是利用回归方程进行逆估计，如要求应变量在一定范围波动，可以通过自变量的取值来实现。n n四、应用直线回归方程应注意的问题n n1、作回归分析要有实际意义，不能把毫无第22页/共36页n n关联的两种现象勉强作回归分析，即便有回归关系，也不一定有因果关系，还必须对两种现象间的内在联系有所认识，即能从专业理论上作出合理解释或有所依据n n2、在进行直线回归分析时，应绘散点图，当观察点的分布有直线趋势，才适宜作直线回归分析。散点图还能提示资料有无异常点，异常点对方程估计影响较大n n3、直线回归方程的适用范围一般以自变量的取值范围为限，在此范围求出y的估计值，称为内插，超出自变量取值范围称外延。第23页/共36页n n若无充分理由证明超过自变量取值范围还是直线，应该避免外延第24页/共36页第五节第五节 相关相关n n一、相关系数的意义n n说明两变量(x,y)间关系密切程度的统计指标叫相关系数coefficient of correlation,用r表示第25页/共36页n nr是说明具有直线关系的两个变量间，相关关系的密切程度与相关方向的指标。n nr没有单位，其值为1r1，值为正时表示正相关，为负时表示负相关；绝对值为1时表示完全相关。(生物界少见)n nr是总体相关系数(rho)的估计值第26页/共36页n n二、相关系数的计算方法n n用上述公式直接计算(小样本未分组资料)n n三、相关系数的统计意义检验t检验n n样本相关系数r是总体相关系数的估计值。即使从0的总体中随机抽样，由于抽样误差的影响，所得的r值也常不等于0。n n只有在相关系数有统计意义时，才能根据绝对值的大小来说明x,y相互关系的密切程度。第27页/共36页n nSr为相关系数的标准误n n相关系数的统计意义也可直接查相关系数统计意义界限表(附表91，P566)，若不能直接查得，可用内插法估计第28页/共36页n n四、两个相关系数差别的统计意义检验n n只有当从0的总体中随机抽样，各样本相关系数r的分布才接近正态分布。n n若从0的总体中随机抽样，样本相关系数并不呈正态分布。n n数理统计证明：把r按下式转换成Z值时，则不论为何值，Z值的分布均近似正态分布n nP125,例94第29页/共36页第30页/共36页n n五、总体相关系数的区间估计n n将r进行Z转换，对Z用正态法估计95可信区间，最后将Z作反变换，得相关系数95可信区间第31页/共36页n n六、相关和回归的关系n n(一)区别：n n1、资料要求不同：n n回归要求应变量回归要求应变量Y Y服从正态分布，服从正态分布，X X是可以精确测量和严格控制的变是可以精确测量和严格控制的变量，一般称为量，一般称为I I型回归。型回归。n n相关要求两个变量服从双变量正相关要求两个变量服从双变量正态分布，这种资料若进行回归分态分布，这种资料若进行回归分析，称析，称II II型回归。可得到由型回归。可得到由X X推推Y Y和由和由Y Y推推X X两个回归方程两个回归方程n n2、应用情况不同n n说明两变量间依存变化的数量关说明两变量间依存变化的数量关系用回归，说明变量间的相关关系用回归，说明变量间的相关关系用相关系用相关第32页/共36页n n(二)、联系n n1、方向一致：n n对一组数据若同时计算对一组数据若同时计算r r和和b b，它，它们的正负号是一致的。们的正负号是一致的。r r为正号说为正号说明两变量间的相互关系是同向变明两变量间的相互关系是同向变化的，化的，b b为正，说明为正，说明x x增增(减减)一个一个单位，单位，y y平均增平均增(减减)b)b个单位。个单位。n n2、假设检验等价n n对同一样本，对同一样本，r r和和b b的假设检验得的假设检验得到的到的t t值相等。由于值相等。由于r r检验可以直接检验可以直接查表，而查表，而b b的假设检验计算较繁，的假设检验计算较繁，故实际中常用前法代替后法故实际中常用前法代替后法n n3、用回归解释相关第33页/共36页n n(1)r的平方称为决定系数coefficient of determinationn n说明SS总固定不变时，回归平方和的大小决定了r的大小。回归平方和越接近总平方和，则r越接近1。r2表示回归平方和在总平方和中所占的比例，即总变异中可以用回归解释的部分，说明两变量间的相关关系的实际意义第34页/共36页n n(2)剩余平方和相等，但相关系数可相差很大，相关系数随着直线斜率的增加而增大。可见相关系数的大小与剩余平方和及回归系数有关，故相关系数不能作为回归估计精度的指标。第35页/共36页
