07相关与回归分析.ppt

《07相关与回归分析.ppt》由会员分享，可在线阅读，更多相关《07相关与回归分析.ppt（98页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第七章第七章 相关与回归分析相关与回归分析n n第一节 相关与回归分析的基本概念n n第二节简单线性相关与回归分析n n第三节多元线性相关与回归分析n n第四节非线性相关与回归分析1第一节第一节 相关与回归分析的基本相关与回归分析的基本概念概念一、函数关系与相关关系1.1.1.1.函数关系函数关系函数关系函数关系当一个或几个变量取一定的值时，另当一个或几个变量取一定的值时，另一个变量有确定值与之相对应，我们一个变量有确定值与之相对应，我们称这种关系为确定性的函数关系。称这种关系为确定性的函数关系。2（函数关系（函数关系）（1 1）是一一对应的确定关系）是一一对应的确定关系（2 2）设设有有两两

2、个个变变量量 x x 和和 y y，变变量量 y y 随随变变量量 x x 一一起起变变化化，并并完完全全依依赖赖于于 x x ，当当变变量量 x x 取取某某个个数数值值时时，y y 依依确确定定的的关关系系取取相相应应的的值值，则则称称 y y 是是 x x 的的函函数数，记记为为 y y =f f(x x)，其其中中 x x 称称为为自自变变量，量，y y 称为因变量称为因变量（3 3）各观测点落在一条线上）各观测点落在一条线上 x xy y3变量间的关系变量间的关系（函数关系）（函数关系）函数关系的例子函数关系的例子某某种种商商品品的的销销售售额额(y)与与销销售售量量(x)之之间间的

3、的关系可表示为关系可表示为 y=p x(p 为单价为单价)圆圆的的面面积积(S)与与半半径径之之间间的的关关系系可可表表示示为为S=r2 企企业业的的原原材材料料消消耗耗额额(y)与与产产量量(x1)、单单位位产产量量消消耗耗(x2)、原原材材料料价价格格(x3)之之间间的的关关系系可表示为可表示为y=x1 x2 x3 42.相关关系：当一个或几个相互联系的变量取一定数值时，与之相对应的另一变量的值虽然不确定，但它仍按某种规律在一定的范围内变化。现象之间客观存在的不严格、不确现象之间客观存在的不严格、不确定的数量依存关系。定的数量依存关系。5变量间的关系（相关关系）（1）变量间关系不能用函数关

4、系精确表达；（2）一个变量的取值不能由另一个变量唯一确定；（3）当变量 x 取某个值时，变量 y 的取值可能有几个；（4）各观测点分布在直线周围。x xy y6 相关关系的例子相关关系的例子商品的消费量商品的消费量(y)与居民收入与居民收入(x)之间的关系之间的关系商品的消费量商品的消费量(y)与物价与物价(x)之间的关系之间的关系商品销售额商品销售额(y)与广告费支出与广告费支出(x)之间的关系之间的关系粮粮食食亩亩产产量量(y)与与施施肥肥量量(x1)、降降雨雨量量(x2)、温度温度(x3)之间的关系之间的关系收入水平收入水平(y)与受教育程度与受教育程度(x)之间的关系之间的关系父亲身高

5、父亲身高(y)与子女身高与子女身高(x)之间的关系之间的关系7二、相关关系的种类二、相关关系的种类n n1.按相关关系的程度划分可分为完全相关，不完全相关和不相关。n n2.按相关形式划分可以分为线性相关和非线性相关。8（1）正相关：两个相关现象间，当一个变量的数值增加（或减少）时，另一个变量的数值也随之增加（或减少），即同方向变化。例如收入与消费的关系。（2）负相关：当一个变量的数值增加（或减少）时，而另一个变量的数值相反地呈减少（或增加）趋势变化，即反方向变化。例如物价与消费的关系。3.按相关的方向划分可分为正相关和负相关按相关的方向划分可分为正相关和负相关94.按相关关系涉及的变量多少划

6、分分为单相关、复相关和偏相关。n n两个变量之间的相关，称为单相关。n n当所研究的是一个变量对两个或两个以上其他变量的相关关系时，称为复相关。例如，某种商品的需求与其价格水平以及收入水平之间的相关关系便是一种复相关。n n在某一现象与多种现象相关的场合，假定其他变量不变，专门考察其中两个变量的相关关系称为偏相关。例如，在假定人们的收入水平不变的条件下，某种商品的需求与其价格水平的关系就是一种偏相关。10三、相关分析与回归分析三、相关分析与回归分析（一）概念：1.相关分析相关分析就是用一个指标来表明现象间相互就是用一个指标来表明现象间相互依存关系的密切程度。广义的相关依存关系的密切程度。广义的

7、相关分析包括相关关系的分析（狭义的分析包括相关关系的分析（狭义的相关分析）和回归分析。相关分析）和回归分析。2.回归分析回归分析是指对具有相关关系的现象，根据是指对具有相关关系的现象，根据其相关关系的具体形态，选择一个其相关关系的具体形态，选择一个合适的数学模型（称为回归方程式）合适的数学模型（称为回归方程式），用来近似地表达变量间的平均变，用来近似地表达变量间的平均变化关系的一种统计分析方法。化关系的一种统计分析方法。11（二）相关分析与回归分析的（二）相关分析与回归分析的区别区别 n n 1.在相关分析中，不必确定自变量和因变量；而在回归分析中，必须事先确定哪个为自变量，哪个为因变量，而且

8、只能从自变量去推测因变量，而不能从因变量去推断自变量。n n2.相关分析不能指出变量间相互关系的具体形式；而回归分析能确切的指出变量之间相互关系的具体形式，它可根据回归模型从已知量估计和预测未知量。n n3.相关分析所涉及的变量一般都是随机变量，而回归分析中因变量是随机的，自变量则作为研究时给定的非随机变量。12（三）相关分析与回归分析的联系（三）相关分析与回归分析的联系n n相关分析和回归分析有着密切的联系，它们不仅具有共同的研究对象，而且在具体应用时，常常必须互相补充。相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量

9、之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。n n简单说：1、相关分析是回归分析的基础和前提；2、回归分析是相关分析的深入和继续。13定性分析定性分析定性分析定性分析是是依据研究者的理论知识和实践经依据研究者的理论知识和实践经验，对客观现象之间是否存在相关验，对客观现象之间是否存在相关关系，以及何种关系作出判断关系，以及何种关系作出判断。定量分析定量分析定量分析定量分析在定性分析的基础上，通过编制相相关表关表、绘制相关图相关图、计算相关系数相关系数等方法，来判断现象之间相关的方向、形态及密切程度。四、相关关系的判断四、相关关系的判断四、相关关系的判断四、相关关系的判断14(

10、一一)相关表：相关表：将自变量将自变量x x的数值按照从小到大的顺序，的数值按照从小到大的顺序，并配合因变量并配合因变量y y的数值一一对应而平行排列的表。的数值一一对应而平行排列的表。例：为了研究分析某种劳务产品完成量与其单位产品例：为了研究分析某种劳务产品完成量与其单位产品例：为了研究分析某种劳务产品完成量与其单位产品例：为了研究分析某种劳务产品完成量与其单位产品成本之间的关系，调查成本之间的关系，调查成本之间的关系，调查成本之间的关系，调查3030个同类服务公司得到的原始个同类服务公司得到的原始个同类服务公司得到的原始个同类服务公司得到的原始数据如表。数据如表。数据如表。数据如表。整理后

11、有整理后有15(二)相关图：又称散点图。将x置于横轴上，y置于纵轴上，将（x,y）绘于坐标图上。用来反映两变量之间相关关系的图形。16第二节第二节 简单线性相关与回归分析简单线性相关与回归分析一、相关系数及其检验(一)相关系数的定义1.简单相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标，简称相关系数。若相关系数是根据总体全部数据计算的，称为总体相关系数，记为 若是根据样本数据计算的，则称为样本相关系数，记为 r17总体相关系数的定义式是总体相关系数的定义式是:式中，式中，CovCov（X X，Y Y）是变量）是变量X X和和Y Y的协方差；的协方差；Var(XVar(X)

12、和和Var(YVar(Y)分别为变量分别为变量X X和和Y Y的方差。的方差。（7.1）总体相关系数是反映两变量之间线性相关总体相关系数是反映两变量之间线性相关程度的一种特征值，表现为一个常数。程度的一种特征值，表现为一个常数。=18样本相关系数的定义公式是：样本相关系数的定义公式是：上式中，上式中，分别是和的样本平均数。分别是和的样本平均数。（7.2）样本相关系数是根据样本观测值计算的，抽样本相关系数是根据样本观测值计算的，抽取的样本不同，其具体的数值也会有所差异。取的样本不同，其具体的数值也会有所差异。容易证明，样本相关系数是总体相关系数的容易证明，样本相关系数是总体相关系数的一致估计量。

13、一致估计量。19样本相关系数的定义公式实质样本相关系数的定义公式实质20(二二)相关系数的特点相关系数的特点1.的取值介于与之间，r 的取值范围是-1,12.在大多数情况下，|，即与的样本观测值之间存在着一定的线性关系，当时，与为正相关，当时，与为负相关。|的数值愈接近于1，表示x与y直线相关程度愈高；反之，|的数值愈接近于0，表示x与y直线相关程度愈低。21通常判断的标准是:|0.3称为微弱相关，0.3|0.5称为低度相关，0.|0.8称为显著相关，0.8|1称为高度相关或强相关3.如果|=1，则表明与完全线性相关，当=1时，称为完全正相关，而=-1时，称为完全负相关。4.是对变量之间线性相

14、关关系的度量。=0只是表明两个变量之间不存在线性关系，它并不意味着与之间不存在其他类型的关系。22相关关系的测度相关关系的测度（相关系数取值及其意义）（相关系数取值及其意义）-1.0+1.00-0.5+0.5完全负相关完全负相关无线性相关无线性相关完全正相关完全正相关负负负负相关程度增加相关程度增加相关程度增加相关程度增加r正相关程度增加正相关程度增加正相关程度增加正相关程度增加23计算相关系数计算相关系数的的“积差法积差法”(三)相关系数的计算24 例：例：15个地区某种食物需求量和地区人口增加量的资料。个地区某种食物需求量和地区人口增加量的资料。2526计算公式还可以有：计算公式还可以有：

15、27（四）相关系数的显著性检验（四）相关系数的显著性检验 n n1、检验两个变量之间是否存在线性相关关系n n2、采用 t 检验n n3、检验的步骤为n n提出假设提出假设：H H0 0：；H H1 1：0 0n n 计算检验的统计量：计算检验的统计量：计算检验的统计量：计算检验的统计量：n 确定显著性水平确定显著性水平，并作出决策，并作出决策 若若tt，拒绝拒绝H0 若若t=48.385t t(15-2)=2.160(15-2)=2.160，拒绝，拒绝，拒绝，拒绝HH0 0，该，该，该，该种食物需求量和地区人口增加量种食物需求量和地区人口增加量之间的相关之间的相关之间的相关之间的相关关系显著

16、。关系显著。关系显著。关系显著。29什么是回归分析？什么是回归分析？（内容）（内容）1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度二、简单线性回归分析二、简单线性回归分析30回归模型与回归方程回归模型与回归方程回归模型回归模型1、回答“变量之间是什么样的关系？”2、方程中运用n n1 个数字的因变量(响应变量)n n被预测的变量n n1 个或多个数字的或分类的自变量(解释变量

17、)n n用于预测的变量3、主要用于预测和估计32回归模型的类型回归模型的类型一个自变量一个自变量一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归33一元线性回归模型（概念要点）（概念要点）1.当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为一元线性回归。2.对于具有线性关系的两个变量，可以用一条线性方程来表示它们之间的关系。3.描述因变量 y 如何依赖于自变量 x 和误差项 的方程称为回归模

18、型。34标准的一元线性回归模型n n (一一)总体回归函数总体回归函数 t t 0 0 1 1t tu ut t（7.57.5）u u t t是随机误差项，又称随机干扰项，它是一个是随机误差项，又称随机干扰项，它是一个特殊的随机变量，反映未列入方程式的其他各种特殊的随机变量，反映未列入方程式的其他各种因素对的影响。因素对的影响。n n (二二)样本回归函数样本回归函数:（，.n).n)t t称为残差，在概念上，称为残差，在概念上，t t与总体误差项与总体误差项u ut t相相互对应；是样本的容量。互对应；是样本的容量。35一元线性回归模型一元线性回归模型（概念要点）（概念要点）对于只涉及一个自

19、变量的简单线性回归模型可表示为 yt=+1 1 x+t t模型中，y 是 x 的线性函数(部分)加上误差项n n线性部分反映了由于 x 的变化而引起的 y 的变化n n误差项 t 是随机变量n n反反映映了了除除 x x 和和 y y 之之间间的的线线性性关关系系之之外外的的随随机机因因素对素对 y y 的影响的影响n n是是不不能能由由 x x 和和 y y 之之间间的的线线性性关关系系所所解解释释的的变变异异性性n n 0 0 和和 1 1 称为模型的参数称为模型的参数36样本回归函数与总体回归函数区别样本回归函数与总体回归函数区别1、总体回归线是未知的，只有一条。样本回归线是根据样本数据

20、拟合的，每抽取一组样本，便可以拟合一条样本回归线。2、总体回归函数中的1和2是未知的参数，表现为常数。而样本回归函数中的 是随机变量，其具体数值随所抽取的样本观测值不同而变动。3、总体回归函数中的ut是t与未知的总体回归线之间的纵向距离，它是不可直接观测的。而样本回归函数中的t是t与样本回归线之间的纵向距离，当根据样本观测值拟合出样本回归线之后，可以计算出t的具体数值。37（三）（三）误差项误差项的的基本标准假定基本标准假定1.误误差差项项u ut t是是一一个个期期望望值值为为0 0的的随随机机变变量量，即即E E(u ut t)=0)=0。对对于于一一个个给给定定的的 x x 值值，y y

21、 的的期期望望值值为为E E (y yt t )=)=0 0+1 1 x xt t2.对于所有的对于所有的 x x 值，值，u ut t的方差的方差 2 2 都相同都相同3.误误差差项项u ut t是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相互独立。即相互独立。即u u N N(0,(0,2 2)n n独独立立性性意意味味着着对对于于一一个个特特定定的的 x x值值，它它所所对对应的应的u u与其他与其他 x x 值所对应的值所对应的u u不相关不相关n n对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 y yt t值值与与其其他他 x xt t所对应的所

22、对应的 y y 值也不相关值也不相关38总体回归线与随机误差项总体回归线与随机误差项P168（t）12tXYtY 。ut 39（四）回归方程（四）回归方程（概念要点）（概念要点）1.描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程。回归方程。2.简单线性回归方程的形式如下 E(y)=0+1 x方方程程的的图图示示是是一一条条直直线线，因因此此也也称称为为直直线线回回归归方程方程 0是是回回归归直直线线在在 y 轴轴上上的的截截距距，是是当当 x=0 时时 y 的期望值的期望值 1是是直直线线的的斜斜率率，称称为为回回归归系系数数，表表示示当当 x 每每变动一个单位时，变动一个单位时

23、，y 的平均变动值的平均变动值40估计估计(经验经验)的回归的回归方程方程3.简单线性回归中估计的回归方程为简单线性回归中估计的回归方程为其其中中：是是估估计计的的回回归归直直线线在在 y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 x 的的值值，是是 y 的的估估计计值，也表示值，也表示 x 每变动一个单位时，每变动一个单位时，y 的平均变动值。的平均变动值。2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ，就得到了，就得到了估计的回归方程。估计的回归方程。估计的回归方程。估计的回归方程。1.总总体体回

24、回归归参参数数 和和 是是未未知知的的，必必需需利利用用样样本数据去估计本数据去估计41三、参数三、参数 0 和和 1 的最小的最小二乘估计二乘估计（一）最小二乘法（一）最小二乘法（概念要点（概念要点）1.使因变量的观察值与估计值之间的离差平方和达使因变量的观察值与估计值之间的离差平方和达到最小来求得到最小来求得 和和 的方法。即的方法。即2.用用最最小小二二乘乘法法拟拟合合的的直直线线来来代代表表x与与y之之间间的的关关系与实际数据的误差比其他任何直线都小。系与实际数据的误差比其他任何直线都小。43最小二乘法最小二乘法（图示）（图示）x xy y(xn,yn)(x1,y1)(x2,y2)(x

25、i,yi)ei=yi-yi443、回归系数的估计的最小二乘法公式 设 将对求偏导数，并令其等于零，可得将对求偏导数，并令其等于零，可得:n n加以整理后有：加以整理后有：45最小二乘法（和和 的计算公式的计算公式）解方程组解方程组可得求解可得求解 和和 的标准方程如下：的标准方程如下：46例：以前例资料配合回归直线，计算如下：例：以前例资料配合回归直线，计算如下：4748上式中上式中b表示人口增加量每增加（或表示人口增加量每增加（或减少）减少）1千人，该种食品的年需求量平均千人，该种食品的年需求量平均来说增加（或减少）来说增加（或减少）0.5301十吨即十吨即5.301吨。吨。49估计方程的求

26、法估计方程的求法（Excel的输出结果）的输出结果）50（二）估计标准误差（二）估计标准误差 Sy1.实际观察值与回归估计值离差平方和的均方根。2.反映实际观察值在回归直线周围的分散状况。3.从另一个角度说明了回归直线的拟合程度。4.计算公式为由样本资料计算由样本资料计算由总体资料计算或由总体资料计算或在大样本情况下在大样本情况下51计计算算例例子子52可得简化式：上式的推导证明上式的推导证明53了解了解（三）最小二乘估计量的性质（四）回归系数的区间估计54四、一元线性回归模型的检验四、一元线性回归模型的检验（一）回归模型检验的种类 回归模型的检验包括理论意义检验、一级检验和二级检验。（二）拟

27、合程度的评价n n 所谓拟合程度，是指样本观测值聚集在样本回归线周围的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数（又称决定系数）。它是建立在对总离差平方和进行分解的基础之上的。56总离差平方和的分解总离差平方和的分解1.因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面：n n由于自变量由于自变量 x x 的取值不同造成的；的取值不同造成的；n n除除 x x 以以外外的的其其他他因因素素(如如x x对对y y的的非非线线性性影影响响、测量误差等测量误差等)的影响。的影响。2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表

28、示。57离差平方和的分解离差平方和的分解（图示）（图示）x xy yy y 离差分解图离差分解图58离差平方和的分解离差平方和的分解（三个平方和的关系）三个平方和的关系）2.两端平方后求和有1.从从图上看有图上看有SST=SSR+SSE总变差平方和总变差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）59离差平方和的分解离差平方和的分解（三个平方和的意义（三个平方和的意义）1.总平方和总平方和(SST)(SST)n反映因变量的反映因变量的 n n 个观察值与其均值的总离差个观察值与其均值的总离差2.回归平方和回归平方和(SSR)(SSR)n反反映映自自变变量量 x

29、x 的的变变化化对对因因变变量量 y y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 x x 与与 y y 之之间间的的线线性性关关系系引引起起的的 y y 的的取取值值变变化化，也也称称为为可可解解释释的的平平方和。方和。3.残差平方和残差平方和(SSE)(SSE)n反反映映除除 x x 以以外外的的其其他他因因素素对对 y y 取取值值的的影影响响，也称为不可解释的平方和或剩余平方和。也称为不可解释的平方和或剩余平方和。60样本决定系数样本决定系数（判定系数（判定系数 r2）1.回归平方和占总离差平方和的比例：2.反映回归直线的拟合程度反映回归直线的拟合程度3.取值范围在取值

30、范围在 0,1 之间之间4.r2 1，说明回归方程拟合的越好；说明回归方程拟合的越好；r20，说明回归方程拟合的越差说明回归方程拟合的越差5.判定系数等于相关系数的平方，即判定系数等于相关系数的平方，即r2(r)261（三）回归方程的显著性检验（三）回归方程的显著性检验（线性关系的检验线性关系的检验）1.检验自变量和因变量之间的线性关系是否显著2.具体方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系62回归方程的显著性检验回归方程的显著性检验（检验检验的步骤）的

31、步骤）1.提出假设n nH0：线性关系不显著2.计算检验统计量计算检验统计量F3.确定显著性水平确定显著性水平，并根据分子自由度，并根据分子自由度1和分和分母自由度母自由度n-2找出临界值找出临界值F 4.作出决策：若作出决策：若F F ,拒绝拒绝H0；若若Ft，拒绝拒绝H0；t t=2.201，拒拒绝绝H0，表表明明人人均均收收入入与人均消费之间有线性关系与人均消费之间有线性关系对前例的回归系数进行显著性检验对前例的回归系数进行显著性检验(0.05)69回归系数的显著性检验回归系数的显著性检验(Excel输出的结果）输出的结果）70预测及应用预测及应用利用回归方程进行估计和预测利用回归方程进

32、行估计和预测1.根据自变量 x 的取值估计或预测因变量 y的取值2.估计或预测的类型n n点估计n ny 的平均值的点估计n ny 的个别值的点估计n n区间估计n ny 的平均值的置信区间估计n ny 的个别值的预测区间估计72利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）2.点估计值点估计值3.在点估计条件下，平均值的点估计和在点估计条件下，平均值的点估计和个别值的的点估计是一样的，但在区个别值的的点估计是一样的，但在区间估计中则不同间估计中则不同1.对对于于自自变变量量 x 的的一一个个给给定定值值x0，根根据据回回归归方方程程得到因变量得到因变量 y 的一个估

33、计值的一个估计值73利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）n n y 的平均值的点估计1.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的平均值的一个估计值E(y0)，就是平均值的点估计。74 根据回归方程，可以给出自变量的根据回归方程，可以给出自变量的某一数值来估计或预测因变量平均可能某一数值来估计或预测因变量平均可能值。例如，前例中当人口增长量为值。例如，前例中当人口增长量为400千人时，该食品的年需求量为千人时，该食品的年需求量为 75利用回归方程进行估计和预测利用回归方程进行估计和预测（区间估计）（区间估计）1.点估计不能给出

34、估计的精度，点估计值与实际值之间是有误差的，因此需要进行区间估计2.对于自变量 x 的一个给定值 x0，根据回归方程得到因变量 y 的一个估计区间3.区间估计有两种类型n置信区间估计置信区间估计n预测区间估计预测区间估计76利用回归方程进行估计和预测利用回归方程进行估计和预测（置信区间估计（置信区间估计）n y 的平均值的置信区间估计 1.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的平均值E(y0)的估计区间，这一估计区间称为置置信区间信区间2.E(y0)在1-置信水平下的置信区间为式式中中：Sy为为估估计计标标准准误误差差77影响区间宽度的因素影响区间宽度的因素

35、n n1.置信水平(1-)n n区间宽度随置信水平的增大而增大区间宽度随置信水平的增大而增大n n2.数据的离散程度(s)n n区间宽度随离散程度的增大而增大区间宽度随离散程度的增大而增大n n3.样本容量n n区间宽度随样本容量的增大而减小区间宽度随样本容量的增大而减小n n4.用于预测的 xp与x的差异程度n n区间宽度区间宽度随随 x xp p与与 x x 的差异程度的增大而增大的差异程度的增大而增大78置信区间置信区间、预测区间预测区间、回归方回归方程程xp pyx x预测上限预测上限置信上限预测下限预测下限置信下限79第三节第三节 多元线性相关与回归分析多元线性相关与回归分析n n一

36、、多元线性回归模型一、多元线性回归模型n n一个因变量与两个及两个以上自变量之间的回归一个因变量与两个及两个以上自变量之间的回归n n描述因变量描述因变量 y y 如何依赖于自变量如何依赖于自变量 x x1 1 ，x x2 2 ，x xp p 和误差项和误差项 的方程称为多元线性回归模型的方程称为多元线性回归模型n n涉及涉及 p p 个自变量的多元线性回归模型可表示为个自变量的多元线性回归模型可表示为 0 ，1 1，p是参数是参数 是被称为误差项的随机变量是被称为误差项的随机变量 y 是是x1,，x2 ，xp 的线性函数加上误差项的线性函数加上误差项 说说明明了了包包含含在在y里里面面但但不

37、不能能被被p个个自自变变量量的的线线性关系所解释的变异性性关系所解释的变异性80多元线性回归模型多元线性回归模型n n 对于 n 组实际观察数据(yi;xi1,，xi2，xip)，(i=1,2,n)，多元线性回归模型可表示为y1=+1 1 x11+x12+px1p+1 1y2=+1 1 x21+x22+px2p+yn=+1 1 xn1+xn2+pxnp+n 81二、参数的最小二乘法二、参数的最小二乘法2.根根据据最最小小二二乘乘法法的的要要求求，可可得得求求解解各各回回归归参参数数 的标准方程如下的标准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和

38、达到最小来求得达到最小来求得 。即即82三、回归方程的显著性检验三、回归方程的显著性检验（线性关系的检验线性关系的检验）1.检验因变量与所有的自变量和之间的是否存在一个显著的线性关系，也被称为总体的显著性检验2.检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用 F 检验来分析二者之间的差别是否显著n n如如果果是是显显著著的的，因因变变量量与与自自变变量量之之间间存存在在线线性性关系关系n n如如果果不不显显著著，因因变变量量与与自自变变量量之之间间不不存存在在线线性性关系关系83回归方程的显著性检验回归方程的显著性检验（步骤）（步骤）1.提出假设n nH H0 0

39、：1 1 2 2 p p=0 =0 线性关系不显著线性关系不显著n nH H1 1：1 1，2 2，p p至少有一个不等于至少有一个不等于0 02.计算检验统计量计算检验统计量F3.确定显著性水平确定显著性水平 和分子自由度和分子自由度p、分母自由度分母自由度n-p-1找出临界值找出临界值F 4.作出决策：若作出决策：若F F ，拒绝拒绝H0；若若FF，接受接受H084回归系数的显著性检验回归系数的显著性检验（要点）（要点）1.如果F检验已经表明了回归模型总体上是显著的，那么回归系数的检验就是用来确定每一个单个的自变量 xi 对因变量 y 的影响是否显著2.对每一个自变量都要单独进行检验3.应

40、用 t 检验4.在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验。85回归系数的显著性检验回归系数的显著性检验（步骤）（步骤）1.提出假设nH H0 0：i i=0 (=0 (自变量自变量 x xi i 与与 因变量因变量 y y 没有线性没有线性关系关系)nH H1 1：i i 0 (0 (自变量自变量 x xi i 与与 因变量因变量 y y有线性关系有线性关系)2.计算检验的统计量 t3.确定显著性水平确定显著性水平，并进行决策，并进行决策 tt，拒绝拒绝H0；t t，接受接受H086第四节非线性相关与回归分析第四节非线性相关与回归分析n n一、非线性函数形式的确定n

41、 n在对实际的客观现象进行定量分析时，选择回归方程的具体形式应遵循以下原则：n n首先，方程形式应与有关实质性科学的基本理论相一致。例如，采用幂函数的形式，能够较好地表现生产函数；采用多项式方程能够较好地反映总成本与总产量之间的关系等等。87n n其次，方程有较高的拟合程度。因为只有这样，才能说明回归方程可以较好地反映现实经济的运行情况。n n最后，方程的数学形式要尽可能简单。如果几种形式都能基本符合上述两项要求，则应该选择其中数学形式较简单的一种。一般来说，数学形式越简单，其可操作性就越强。88n n（一）抛物线函数n n（二）双曲线函数n n（三）幂函数n n（四）指数函数n n（五）对数

42、函数n n（六）形曲线函数n n（七）多项式方程89几种常见的非线性模型几种常见的非线性模型n n 指数函数2.线性化方法线性化方法两端取对数得：两端取对数得：lny=ln +x令：令：y=lny，则有则有y=ln +x1.基本形式基本形式：3.图像图像 90几种常见的非线性模型几种常见的非线性模型n n 幂函数2.线性化方法线性化方法两端取对数得：两端取对数得：lg y=lg +lg x令：令：y=lgy，x=lg x，则则y=lg +x1.基本形式：基本形式：3.图像图像00 1 1 1 1 =1=1-1-1 0 0 -1-1 =-1=-1 91几种常见的非线性模型几种常见的非线性模型n

43、n 双曲线函数2.线性化方法线性化方法令：令：y=1/y，x=1/x,则有则有y=+x1.基本形式：基本形式：3.图像图像 0 092几种常见的非线性模型几种常见的非线性模型n n 对数函数2.线性化方法线性化方法x=lgx,则有则有y=+x1.基本形式：基本形式：3.图像图像 0 0 0 0 93几种常见的非线性模型几种常见的非线性模型n n S 型曲线2.线性化方法线性化方法令：令：y=1/y，x=e-x,则有则有y=+x1.基本形式：基本形式：3.图像图像94非线性回归非线性回归（实例）（实例）【例例】为研究生产率与废品率之间的关系，记录数据如下表。试拟合适当的模型。废品率与生产率的关系

44、废品率与生产率的关系生产率（周生产率（周生产率（周生产率（周/单位单位单位单位)x x10001000200020003000300035003500 40004000 45004500 50005000废品率（废品率（废品率（废品率（%）y y5.25.26.56.56.86.88.18.110.210.210.310.313.013.095非线性回归非线性回归（实例）（实例）生产率与废品率的散点图生产率与废品率的散点图96非线性回归非线性回归（实例）（实例）1.用线性模型：y=01x+，有y=2.671+0.0018x2.用指数模型：y=x ，有y=4.05(1.0002)x3.比较直线的残差平方和5.3371指数模型的残差平方和6.11。直线模型略好于指数模型97结结 束束98