第2章线性回归PPT讲稿.ppt

《第2章线性回归PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第2章线性回归PPT讲稿.ppt（84页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第2章线性回归第1页，共84页，编辑于2022年，星期一2.1 线性回性回归基本概念基本概念n2.1.1 回归分析所要解决的主要问题回归分析所要解决的主要问题n2.1.2 统计关系与函数关系统计关系与函数关系n2.1.3 相关分析与回归分析相关分析与回归分析n2.1.4 随机误差项随机误差项 第2页，共84页，编辑于2022年，星期一n回归分析回归分析，是确定两个或，是确定两个或两个以上变量间的数量相两个以上变量间的数量相互依赖关系的一种统计分互依赖关系的一种统计分析方法，运用十分广泛。析方法，运用十分广泛。第3页，共84页，编辑于2022年，星期一父亲们的身高与儿子们的身高之间父亲们的身高与

2、儿子们的身高之间关系的研究关系的研究n1889年年F.Gallton和他的朋友和他的朋友K.Pearson收集收集了上千个家庭的身高、臂长和腿长的记录了上千个家庭的身高、臂长和腿长的记录n企图寻找出儿子们身高与父亲们身高之间关系企图寻找出儿子们身高与父亲们身高之间关系的具体表现形式的具体表现形式第4页，共84页，编辑于2022年，星期一学生身高体重ABCDEFGHIJ1581601621641661681701721741764750485562605261706510名学生的身高与体重数据名学生的身高与体重数据第5页，共84页，编辑于2022年，星期一n一般来说，回归分析是根据已掌握的变量实

3、测数据建立一般来说，回归分析是根据已掌握的变量实测数据建立适合的适合的回归模型回归模型，然后求解模型中的各个，然后求解模型中的各个参数参数，评价，评价回归模型是否能够很好地拟合实测数据；如果能够很回归模型是否能够很好地拟合实测数据；如果能够很好的拟合好的拟合,则可以根据自变量的变化情况对因变量作则可以根据自变量的变化情况对因变量作进一步的预测与控制进一步的预测与控制。n在回归分析中，如果模型只包括一个自变量、一个因在回归分析中，如果模型只包括一个自变量、一个因变量，且二者的数量关系可用一条直线近似表示，则变量，且二者的数量关系可用一条直线近似表示，则称为称为一元线性回归分析一元线性回归分析。Y

4、=a+bX第6页，共84页，编辑于2022年，星期一第7页，共84页，编辑于2022年，星期一2.1.1 回归分析所要解决的主要问题回归分析所要解决的主要问题n（1）确定几个特定变量之间是否存在相关关系，如果存）确定几个特定变量之间是否存在相关关系，如果存在的话，找出她们之间合适的数学表达式在的话，找出她们之间合适的数学表达式n（2）根据一个或几个变量的值，预报或控制另一个变）根据一个或几个变量的值，预报或控制另一个变量的取值，并且要知道这种预报或控制的精确度量的取值，并且要知道这种预报或控制的精确度n（3）进行因素分析，确定因素的主次以及因素之间的相）进行因素分析，确定因素的主次以及因素之间

5、的相互关系等等互关系等等第8页，共84页，编辑于2022年，星期一n一元线性回归分析，只要解决：一元线性回归分析，只要解决：n（1）求变量）求变量x与与y之间的回归直线方程之间的回归直线方程n（2）判断变量）判断变量x和和y之间是否确为线性关系之间是否确为线性关系n（3）根据一个变量的值，预测或控制另一变量的取值）根据一个变量的值，预测或控制另一变量的取值第9页，共84页，编辑于2022年，星期一2.1.2 统计关系与函数关系统计关系与函数关系n变量之间的关系形态一般可以分为两类：一类为变量变量之间的关系形态一般可以分为两类：一类为变量之间的关系是确定的，称为之间的关系是确定的，称为函数关系函

6、数关系；n而另一类变量之间的关系是不确定的，称为而另一类变量之间的关系是不确定的，称为统计关系统计关系。n变量之间变量之间统计关系，是指统计关系，是指一个或几个变量在数量上的一个或几个变量在数量上的变动会引起另一个变量数量上发生变动，但变动的结变动会引起另一个变量数量上发生变动，但变动的结果不是唯一确定的，亦即变量之间的关系不是一一对果不是唯一确定的，亦即变量之间的关系不是一一对应的，应的，因而不能用函数关系进行表达。因而不能用函数关系进行表达。但统计关系可但统计关系可以通过函数关系加一个随机变量予以描述。以通过函数关系加一个随机变量予以描述。第10页，共84页，编辑于2022年，星期一 确定

7、性关系确定性关系即两变量间的函数关系即两变量间的函数关系圆的周长与半径的关系：圆的周长与半径的关系：C2 R速度、时间与路程的关系：速度、时间与路程的关系：LSTX X与与Y Y的函数关系：的函数关系：Ya+bX第11页，共84页，编辑于2022年，星期一 不确定性关系不确定性关系 两变量在宏观上存在关系，但并未精确两变量在宏观上存在关系，但并未精确到可以用函数关系来表达。到可以用函数关系来表达。青少年身高与年龄的关系青少年身高与年龄的关系年龄与血脂的关系年龄与血脂的关系回归分析是用来研究非确定性关系的一种统计分析方法回归分析是用来研究非确定性关系的一种统计分析方法身高与体重的关系身高与体重的

8、关系药物浓度与反应率的关系药物浓度与反应率的关系体重与体表面积体重与体表面积的关系的关系第12页，共84页，编辑于2022年，星期一2.1.3 相关分析与回归分析相关分析与回归分析n相关分析相关分析就是就是对两个变量之间线性关系的描述和度量对两个变量之间线性关系的描述和度量。统。统计关系的形态大体上可以分为计关系的形态大体上可以分为线性相关线性相关、非线性相关非线性相关、完完全相关全相关和和不相关不相关等几种。等几种。第13页，共84页，编辑于2022年，星期一单相关单相关 是两个变量之间存在的相关关系，是两个变量之间存在的相关关系，即一个因变量与一个自变量之间的依即一个因变量与一个自变量之间

9、的依存关系。因此也称为存关系。因此也称为一元相关。一元相关。复相关复相关 也称多元相关，是指三个或三个以上也称多元相关，是指三个或三个以上变量之间存在的相关关系，通常涉及变量之间存在的相关关系，通常涉及一个因变量与两个或更多个自变量，一个因变量与两个或更多个自变量，也称也称多元相关。多元相关。相关关系的种类：相关关系的种类：1 1、按相关关系涉及变量的多少可分为：、按相关关系涉及变量的多少可分为：第14页，共84页，编辑于2022年，星期一正相关正相关 两个相关现象间，当一个变量的数值两个相关现象间，当一个变量的数值增加（或减少）时，另一个变量的数增加（或减少）时，另一个变量的数值也随之增加（

10、或减少），这样的相值也随之增加（或减少），这样的相关关系就是关关系就是正相关正相关，也叫，也叫同向相关同向相关。负相关负相关 当一个变量的数值增加当一个变量的数值增加（或减少）（或减少）时，时，另一个变量的数值相反地呈减少（或另一个变量的数值相反地呈减少（或增加）的趋势变化，这样的相关关系增加）的趋势变化，这样的相关关系就是就是负相关负相关，也叫，也叫异向相关异向相关。相关关系的种类：相关关系的种类：2 2、按相关的方向可分为：、按相关的方向可分为：第15页，共84页，编辑于2022年，星期一线性相关线性相关 当一个变量发生变动，另一个变量随当一个变量发生变动，另一个变量随之发生大致均等的变动

11、，这就是直线之发生大致均等的变动，这就是直线相关。亦称为简单相关或直线相关。相关。亦称为简单相关或直线相关。非线性相关非线性相关 当一个变量发生变动，另一个变量随当一个变量发生变动，另一个变量随之发生不均等的变化，这就曲线相关。之发生不均等的变化，这就曲线相关。亦称为一元非线性相关亦称为一元非线性相关。相关关系的种类：相关关系的种类：3 3、按相关关系形式可分为：、按相关关系形式可分为：第16页，共84页，编辑于2022年，星期一n散点图是描述变量之间关系的一种直观的方法，从中可以直观散点图是描述变量之间关系的一种直观的方法，从中可以直观地看出变量之间的关系形态及关系强度。地看出变量之间的关系

12、形态及关系强度。第17页，共84页，编辑于2022年，星期一相关关系的种类：相关关系的种类：4 4、按相关关系的密切程度分为：、按相关关系的密切程度分为：完全相关完全相关 因变量完全随自变量变动而变动，存在着因变量完全随自变量变动而变动，存在着因变量完全随自变量变动而变动，存在着因变量完全随自变量变动而变动，存在着严格的严格的严格的严格的依存关系依存关系依存关系依存关系。即变量间的关系为。即变量间的关系为。即变量间的关系为。即变量间的关系为函数关系函数关系。不完全相关不完全相关不完全相关不完全相关 变量之间存在着变量之间存在着变量之间存在着变量之间存在着不严格的依存关系不严格的依存关系不严格的

13、依存关系不严格的依存关系，即因变量的，即因变量的，即因变量的，即因变量的变动除了受自变量变动的影响外，还受其他因素的变动除了受自变量变动的影响外，还受其他因素的变动除了受自变量变动的影响外，还受其他因素的变动除了受自变量变动的影响外，还受其他因素的影响。它是相关关系的影响。它是相关关系的影响。它是相关关系的影响。它是相关关系的主要表现形式。主要表现形式。主要表现形式。主要表现形式。完全不相关完全不相关完全不相关完全不相关 自变量与因变量彼此自变量与因变量彼此自变量与因变量彼此自变量与因变量彼此独立独立独立独立，互不影响，其数量变，互不影响，其数量变，互不影响，其数量变，互不影响，其数量变化化化

14、化毫无联系毫无联系毫无联系毫无联系。第18页，共84页，编辑于2022年，星期一第19页，共84页，编辑于2022年，星期一n不同形态的散点图第20页，共84页，编辑于2022年，星期一第21页，共84页，编辑于2022年，星期一2.1.3 相关分析与回归分析相关分析与回归分析n通过散点图可以判断两个变量之间有无相关关系，并对变量之通过散点图可以判断两个变量之间有无相关关系，并对变量之间的关系形态做出大致的描述，但散点图不能准确反映变量之间的关系形态做出大致的描述，但散点图不能准确反映变量之间的关系密切程度。间的关系密切程度。n因此，因此，为准确地度量两个变量之间的关系密切程度，需要为准确地度

15、量两个变量之间的关系密切程度，需要计算相关系数。计算相关系数。n相关系数相关系数是对变量之间密切程度的度量。对两个变量之间线是对变量之间密切程度的度量。对两个变量之间线性相关程度的度量称为性相关程度的度量称为简单相关系数简单相关系数。若相关系数是根据总。若相关系数是根据总体全部数据计算出来的，称为体全部数据计算出来的，称为总体相关系数总体相关系数 ；若是根据样本数；若是根据样本数据计算出来的，则称为据计算出来的，则称为样本相关系数样本相关系数 。样本相关系数的计算公。样本相关系数的计算公式为：式为：第22页，共84页，编辑于2022年，星期一2.1.3 相关分析与回归分析相关分析与回归分析n可

16、以证明，相关系数的取值范围在可以证明，相关系数的取值范围在-1到到1之间，即之间，即 。值的大小可以用来反映相关关系的强弱程度。值的大小可以用来反映相关关系的强弱程度。越越大，说明相关程度越高，相反，大，说明相关程度越高，相反，越小，说明相关程越小，说明相关程度越低。特别地，度越低。特别地，或或 时，表明现象之间存在时，表明现象之间存在完全相关关系，当完全相关关系，当 时，说明现象之间完全不相关。时，说明现象之间完全不相关。对于相关关系的强弱程度，通常有个检验标准可供参对于相关关系的强弱程度，通常有个检验标准可供参考：考：时，可认为基本上不存在相关关系；时，可认为基本上不存在相关关系；为低度相

17、关；为低度相关；为显著相关；为显著相关；为高度相为高度相关。关。第23页，共84页，编辑于2022年，星期一2.1.3 相关分析与回归分析相关分析与回归分析n相关分析和回归分析的区别相关分析和回归分析的区别q二者的研究目的不同。前者二者的研究目的不同。前者主要研究变量之间是否存在线性关系以主要研究变量之间是否存在线性关系以及这种关系的强弱程度，而及这种关系的强弱程度，而后者后者则是在前者的基础上进一步研究则是在前者的基础上进一步研究变量之间的联系方式，以便在给定一个或几个变量值的条件下变量之间的联系方式，以便在给定一个或几个变量值的条件下预测或控制另一个变量的值。预测或控制另一个变量的值。q其

18、次，两者的假设条件不同。相关分析其次，两者的假设条件不同。相关分析假设研究的两个变量是随假设研究的两个变量是随机的。而机的。而回归分析回归分析一般都假设解释变量是确定性的，在重复抽样中一般都假设解释变量是确定性的，在重复抽样中取固定的值；被解释变量是随机的，它有一个概率分布。取固定的值；被解释变量是随机的，它有一个概率分布。回归分回归分析的目的析的目的就是要通过给定解释变量的值来预测或控制被解释变量就是要通过给定解释变量的值来预测或控制被解释变量的总体均值或个别值。的总体均值或个别值。第24页，共84页，编辑于2022年，星期一2.1.3 相关分析与回归分析相关分析与回归分析n相关分析和回归分

19、析的联系相关分析和回归分析的联系q在进行回归分析之前，一般要确定变量之间的线性关系是否密在进行回归分析之前，一般要确定变量之间的线性关系是否密切，这就要依赖相关分析。切，这就要依赖相关分析。q变量之间的相关系数与回归分析中的拟合程度存在一定关变量之间的相关系数与回归分析中的拟合程度存在一定关系。系。第25页，共84页，编辑于2022年，星期一2.1.4 随机误差项随机误差项n随机误差：随机误差：也称为偶然误差和不定误差，在实际相同条件下，多次也称为偶然误差和不定误差，在实际相同条件下，多次测量同一量值时，其绝对值和符号无法预计的测量误差。测量同一量值时，其绝对值和符号无法预计的测量误差。n是由

20、于在测定过程中一系列有关因素微小的随机波动而形成的具有相是由于在测定过程中一系列有关因素微小的随机波动而形成的具有相互抵偿性的误差。互抵偿性的误差。n它的特点：它的特点：大小和方向都不固定，也无法测量或校正。大小和方向都不固定，也无法测量或校正。n它的性质：它的性质：随着测定次数的增加，正负误差可以相互低偿，随着测定次数的增加，正负误差可以相互低偿，误差的平均值将逐渐趋向于零。误差的平均值将逐渐趋向于零。第26页，共84页，编辑于2022年，星期一2.1.4 随机误差项随机误差项n随机误差项的来源随机误差项的来源q被省略掉而未进入回归方程但又影响着被解释变量的种种因素，被省略掉而未进入回归方程

21、但又影响着被解释变量的种种因素，包括理包括理论上尚不清楚或难以确定的因素、实际中由于受数据观测在时间论上尚不清楚或难以确定的因素、实际中由于受数据观测在时间和费用及难度上的影响不得不放弃的因素、涉及到人们的思想品和费用及难度上的影响不得不放弃的因素、涉及到人们的思想品德、行为方式、个性偏好等难以用数量来反映的因素、对被解释德、行为方式、个性偏好等难以用数量来反映的因素、对被解释变量有影响，但与其他变量相比较而言影响不大的变量等。变量有影响，但与其他变量相比较而言影响不大的变量等。q变量的观测误差：变量的观测误差：由于受到各种主客观因素的影响而使得实际观测值由于受到各种主客观因素的影响而使得实际

22、观测值与真实值之间产生的偏差；与真实值之间产生的偏差；q变量替代造成的误差：变量替代造成的误差：选择可观测的近似变量替代难以被观测选择可观测的近似变量替代难以被观测变量而产生的偏差；变量而产生的偏差；q模型设定误差：模型设定误差：根据实际问题的性质和特点对总体回归函数作近根据实际问题的性质和特点对总体回归函数作近似的假定，这种由于模型设定而产生的误差；似的假定，这种由于模型设定而产生的误差；第27页，共84页，编辑于2022年，星期一2.2 一元一元线性回性回归分析分析n2.2.1 一元线性回归分析的几个定义一元线性回归分析的几个定义n2.2.2 一元线性回归分析的一般步骤一元线性回归分析的一

23、般步骤n2.2.3 参数的普通最小二乘估计参数的普通最小二乘估计n2.2.4 拟合优度的检验拟合优度的检验 n2.2.5 显著性检验显著性检验n2.2.6 残差图分析残差图分析n2.2.7 回归分析预测回归分析预测第28页，共84页，编辑于2022年，星期一2.2.1 一元线性回归分析的几个定义一元线性回归分析的几个定义n在回归分析中，在回归分析中，我们把被预测或被解释的变量称为因变我们把被预测或被解释的变量称为因变量量（dependent variable），用），用Y表示；表示；把用来预测或用把用来预测或用来解释因变量的一个或多个变量称为自变量来解释因变量的一个或多个变量称为自变量（ind

24、ependent variable），用），用X表示。表示。当只涉及一个自变当只涉及一个自变量时称为一元回归，量时称为一元回归，若因变量若因变量Y与自变量与自变量X之间为线性关之间为线性关系时称为系时称为一元线性回归。一元线性回归。描述因变量描述因变量Y如何依赖于自变如何依赖于自变量量X和误差项和误差项的方程称为的方程称为回归模型。回归模型。n一元线性回归模型可表示为：一元线性回归模型可表示为：。被称为误被称为误差项的随机变量，差项的随机变量，和和 称为模型的参数。称为模型的参数。第29页，共84页，编辑于2022年，星期一2.2.2 一元线性回归分析的一般步骤一元线性回归分析的一般步骤n第一

25、步，变量的选择问题。第一步，变量的选择问题。根据研究的目的和内容确定被解释变量根据研究的目的和内容确定被解释变量Y和和解释变量解释变量X，选择的原则：，选择的原则：既要与被解释变量既要与被解释变量Y有密切的联系，又要考虑变有密切的联系，又要考虑变量资料的可得性，还要兼顾模型简洁。量资料的可得性，还要兼顾模型简洁。n第二步，模型的设定。第二步，模型的设定。模型的设定往往需要经济理论的指导。模型的设定往往需要经济理论的指导。n第三步，参数估计。第三步，参数估计。根据设定的模型，利用已经收集到的样本数据，应用最小根据设定的模型，利用已经收集到的样本数据，应用最小二乘法对模型中的参数进行估计，包括对二

26、乘法对模型中的参数进行估计，包括对 、和和 的估计。的估计。n第四步，模型的检验和修正。第四步，模型的检验和修正。常用的检验有经济理论上的检验（如系数常用的检验有经济理论上的检验（如系数的正负和大小是否符合有关的经济理论）、统计检验（如的正负和大小是否符合有关的经济理论）、统计检验（如F检验。检验。t检验）、检验）、计量检验、拟合优度检验、异方差检验、自相关检验以及残差图检验等。计量检验、拟合优度检验、异方差检验、自相关检验以及残差图检验等。n第五步，模型的运用。第五步，模型的运用。主要用于预测。主要用于预测。第30页，共84页，编辑于2022年，星期一2.2.3 参数的普通最小二乘估计参数的

27、普通最小二乘估计n最小二乘法（最小二乘法（OLS）的基本思想）的基本思想q在来自于总体的在来自于总体的n个观测点中，找到一条直线使得这个观测点中，找到一条直线使得这些点到这条直线的垂直距离的平方和些点到这条直线的垂直距离的平方和 最小。即在给定样本观测值下，选择出最小。即在给定样本观测值下，选择出 、能使能使 与与 之差的平方和最小。之差的平方和最小。第31页，共84页，编辑于2022年，星期一n设用设用n个点个点(X1，Y1)，(X2，Y2)，(Xn，Yn)拟合拟合而得的直线方程为：而得的直线方程为：n称称 为为Yi的拟合值，称的拟合值，称ei为为Yi的拟合误差。的拟合误差。拟合一条直线的准

28、则拟合一条直线的准则第32页，共84页，编辑于2022年，星期一拟合一条直线的准则拟合一条直线的准则拟合误差的直观图拟合误差的直观图YXei第33页，共84页，编辑于2022年，星期一n1.假设以似合误差之和为最小作为拟合直线的标准，假设以似合误差之和为最小作为拟合直线的标准，即要求即要求 为最小。为最小。n当似合误差中有符号正负抵消时，即使拟合直线离散当似合误差中有符号正负抵消时，即使拟合直线离散布点大多数很远，也可能此和式很小。布点大多数很远，也可能此和式很小。n2.为了克服上述准则中由于误差符号相反所带来的缺为了克服上述准则中由于误差符号相反所带来的缺点，改为以误差绝对值之和为最小作为拟

29、合直线的准点，改为以误差绝对值之和为最小作为拟合直线的准则。则。n虽然可排除大的正负误差相抵，但可能会照顾了一些虽然可排除大的正负误差相抵，但可能会照顾了一些点而忽略了个别点。点而忽略了个别点。第34页，共84页，编辑于2022年，星期一拟合误差的直观图拟合误差的直观图2-A 拟合误差的直观图拟合误差的直观图2-BYX+3-2-2YX+5第35页，共84页，编辑于2022年，星期一n3.第二种消除正负相抵的方法是以拟合误差平方和第二种消除正负相抵的方法是以拟合误差平方和为最小作为拟合直线的准则，即以为最小作为拟合直线的准则，即以 为为最小。最小。n采用这一准则，一方面消除了正负相抵，另一方面采

30、用这一准则，一方面消除了正负相抵，另一方面避免了像避免了像2那样有个别点是大误差绝对值的情况。依那样有个别点是大误差绝对值的情况。依照这一标准，图照这一标准，图2中的中的-A优于优于-B的拟合。的拟合。n进一步的研究表明，进一步的研究表明，这一标准是可取的准则。这一这一标准是可取的准则。这一准则称为：准则称为：“最小二乘最小二乘”或或“最小平方准则最小平方准则”。第36页，共84页，编辑于2022年，星期一2.2.4拟合优度检验拟合优度检验n回归分析是要通过样本所估计的参数来代替总体的真实参数，或回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。者说是用

31、样本回归线代替总体回归线。n尽管从统计性质上已知，如果有足够多的重复抽样，参数的尽管从统计性质上已知，如果有足够多的重复抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。抽样中，估计值不一定就等于该真值。n那么，在一次抽样中，那么，在一次抽样中，参数的估计值与真值的差异有多大，参数的估计值与真值的差异有多大，是否显著，是否显著，这就需要进一步进行统计检验。这就需要进一步进行统计检验。n主要包括主要包括拟合优度检验拟合优度检验、变量的显著性检验变量的显著性检验及及残差图分析残差图分析。第37页，共

32、84页，编辑于2022年，星期一n拟合优度检验：拟合优度检验：对样本回归直线与样本观测值之间拟对样本回归直线与样本观测值之间拟合程度的检验。合程度的检验。n度量拟合优度的指标：度量拟合优度的指标：决定系数决定系数R2，它被定义为被解释变它被定义为被解释变量的差异有多大程度可以用解释变量来解释，解释的程量的差异有多大程度可以用解释变量来解释，解释的程度越高，就越大。度越高，就越大。nR2的取值范围为的取值范围为 0,1。R2越接近越接近1，说明实际观测点离样，说明实际观测点离样本线越近，拟合优度越高。本线越近，拟合优度越高。2.2.4.1拟合优度检验拟合优度检验第38页，共84页，编辑于2022

33、年，星期一2.2.4.2 决定系数决定系数R2与相关系数与相关系数rn注意：上式表明了样本相关系数与决定系数之间在数量上的关系。但注意：上式表明了样本相关系数与决定系数之间在数量上的关系。但是决定系数是决定系数 与样本相关系数的平方与样本相关系数的平方 是两个完全不同的概念。是两个完全不同的概念。相关相关系数系数r反映的是变量之间线性关系的强弱程度，反映的是变量之间线性关系的强弱程度，它可正可负；它可正可负；而决定而决定系数系数 反映的是回归方程的拟合程度，反映的是回归方程的拟合程度，是一个比例关系，只能是正是一个比例关系，只能是正数。数。第39页，共84页，编辑于2022年，星期一2.2.5

34、 显著性检验显著性检验 n回归分析中的显著性检验主要包括两个方面的内容：一是回归分析中的显著性检验主要包括两个方面的内容：一是线线性关系的检验；性关系的检验；二是二是回归系数的检验回归系数的检验。n线性关系检验线性关系检验主要是检验回归模型中的每一个解释变量与主要是检验回归模型中的每一个解释变量与被释变量能否用一个线性模型来表示。被释变量能否用一个线性模型来表示。回归系数检验回归系数检验主要主要是检验回归模型中每一个解释变量对被解释变量的影响程是检验回归模型中每一个解释变量对被解释变量的影响程度。度。n注意：这两种检验在顺序上是注意：这两种检验在顺序上是不能颠倒不能颠倒的。因为只有当回的。因为

35、只有当回归模型所代表的变量之间线性关系通过检验后，进一步检归模型所代表的变量之间线性关系通过检验后，进一步检验个别解释变量对被解释变量的影响才有意义。验个别解释变量对被解释变量的影响才有意义。第40页，共84页，编辑于2022年，星期一2.2.5.1 线性关系检验线性关系检验 n线性关系的检验是检验自变量线性关系的检验是检验自变量X和因变量和因变量Y之间的线性关系是否显之间的线性关系是否显著，即它们之间能否用一个线性模型著，即它们之间能否用一个线性模型 来表示。来表示。检验的具体步骤：检验的具体步骤：n（1）提出假设：）提出假设：n（2）计算检验统计量：）计算检验统计量：n（3）作出决策。确定

36、显著性水平）作出决策。确定显著性水平 ，并根据分子自由，并根据分子自由 度度 和分母自由度和分母自由度 查分布表查分布表F，找到相应的临界值，找到相应的临界值 。若若 ，拒绝，拒绝 ，表明两个变量之间的线性关系是显著，表明两个变量之间的线性关系是显著的；若的；若 ，不拒绝，不拒绝 ，没有证据表明两个变量之间的，没有证据表明两个变量之间的线性关系显著。线性关系显著。第41页，共84页，编辑于2022年，星期一2.2.5.2 回归系数检验回归系数检验 n回归系数的显著性检验是要检验自变量对因变量的影响是否回归系数的显著性检验是要检验自变量对因变量的影响是否显著的问题。在一元线性回归模型显著的问题。

37、在一元线性回归模型 中，如果中，如果回归系数回归系数 ，回归线是一条水平线，表明因变量，回归线是一条水平线，表明因变量Y的取值的取值不依赖于自变量不依赖于自变量X，即两个变量之间没有线性关系。如果回，即两个变量之间没有线性关系。如果回归系数归系数 ，也不能肯定就得出两个变量之间存在线性关，也不能肯定就得出两个变量之间存在线性关系的结论，这要看这种关系是否具有统计意义上的显著性。系的结论，这要看这种关系是否具有统计意义上的显著性。回归系数的显著性检验就是回归系数的显著性检验就是检验回归系数检验回归系数 是否等于零是否等于零。第42页，共84页，编辑于2022年，星期一2.2.5.2 回归系数检验

38、回归系数检验n回归系数显著性检验的具体步骤：回归系数显著性检验的具体步骤：n（1）提出假设。）提出假设。n（2）计算检验的统计量）计算检验的统计量 t。n（3）作出决策。确定显著性水平）作出决策。确定显著性水平 ，并根据自由度，并根据自由度 查查t分布表，找到相应的临界值分布表，找到相应的临界值 。若。若 ，拒绝，拒绝 ，回归系，回归系数等于零的可能性小于数等于零的可能性小于 ，表明自变量，表明自变量X对因变量对因变量Y的影响是显的影响是显著的，即两个变量之间存在着显著的线性关系；若著的，即两个变量之间存在着显著的线性关系；若 ，则，则不拒绝不拒绝 ，没有证据表明，没有证据表明X对对Y的影响是

39、显著的，不能认为的影响是显著的，不能认为二者之间存在显著的线性关系。二者之间存在显著的线性关系。第43页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n残差图分析的作用：在回归模型残差图分析的作用：在回归模型 中，中，我们假定我们假定 是零均值、同方差、不自相关且服从是零均值、同方差、不自相关且服从正态分布的一个随机变量，即正态分布的一个随机变量，即 。在建。在建立了样本回归模型后，利用立了样本回归模型后，利用F检验和检验和t 检验确定了检验确定了X与与Y之间的线性关系显著后，我们就可以进行估计和之间的线性关系显著后，我们就可以进行估计和预测了。但事实上，如果关于预测了。

40、但事实上，如果关于 的假定不成立的话，的假定不成立的话，那么，我们所做的检验以及估计和预测也站不住脚。那么，我们所做的检验以及估计和预测也站不住脚。确定有关确定有关 的界定是否成立的方法之一就是进行残差的界定是否成立的方法之一就是进行残差分析分析。第44页，共84页，编辑于2022年，星期一n残差图在回归分析中有着重要作用，其用途可残差图在回归分析中有着重要作用，其用途可以归纳为两个方面：以归纳为两个方面：一是检验线性回归模型中一是检验线性回归模型中与随机误差项有关的假定（同方差与不自相关）与随机误差项有关的假定（同方差与不自相关）是否成立；二是当这些基本假定违背时，验证是否成立；二是当这些基

41、本假定违背时，验证对模型参数估计的修正方法是否有效。对模型参数估计的修正方法是否有效。如果残如果残差图不能发挥其中的任一作用，那就没有任何差图不能发挥其中的任一作用，那就没有任何意义。意义。第45页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（1）回归方程拟合较好）回归方程拟合较好 如果由如果由 构成的点绝大多数构成的点绝大多数落在落在(-2,+2)的水平带状区间的水平带状区间之中，且不带有如何趋势，完之中，且不带有如何趋势，完全随机分布在该带状之中，则全随机分布在该带状之中，则说明采用的回归方程对样本数说明采用的回归方程对样本数据的拟合是良好的。据的拟合是良好的。第

42、46页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（2）回归方程具有某种曲线形式）回归方程具有某种曲线形式 如果总体回归方程本质上是曲线，而我们回归时却采用的是直线，如果总体回归方程本质上是曲线，而我们回归时却采用的是直线，此时标准化残差图就会表现出某种曲线形状，产生所谓的系统偏此时标准化残差图就会表现出某种曲线形状，产生所谓的系统偏差。差。第47页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（3）样本数据存在异常点）样本数据存在异常点 当样本数据中存在异常点时，当样本数据中存在异常点时，一个最明显的特征是，这些异一个最明显的特征是，这些异常

43、点明显地离开大多数数据点。常点明显地离开大多数数据点。此时，在回归分析中通常的处此时，在回归分析中通常的处理办法是剔除这些异常点，然理办法是剔除这些异常点，然后再进行回归分析。后再进行回归分析。注意：有时这些异常点却包含着丰注意：有时这些异常点却包含着丰富的信息，剔除时要特别小心。富的信息，剔除时要特别小心。第48页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（4）数据拟合不充分）数据拟合不充分 当回归方程拟合不充分的时候，由当回归方程拟合不充分的时候，由 构成的点许多就会落构成的点许多就会落在在(-2,+2)的水平带状区间之外，也就是不满足正态性性质，其的水平带状区

44、间之外，也就是不满足正态性性质，其原因可能是模型遗漏了某些重要的解释变量，或模型设定有误。原因可能是模型遗漏了某些重要的解释变量，或模型设定有误。第49页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（5）随机误差项存在异方差性随机误差项存在异方差性 在关于随机误差项的假定中，我们已经指出随机误差项具有在关于随机误差项的假定中，我们已经指出随机误差项具有异方差性，这种回归模型的标准差残差图往往表现出渐增或异方差性，这种回归模型的标准差残差图往往表现出渐增或渐减的趋势。渐减的趋势。第50页，共84页，编辑于2022年，星期一2.2.6 残差图分析残差图分析n（6）随机误差

45、项存在自相关随机误差项存在自相关 在回归分析中，如果样本是时间序列资料，则误差项往往表现在回归分析中，如果样本是时间序列资料，则误差项往往表现出自相关性。这种情况下，一般以时间出自相关性。这种情况下，一般以时间t作为标准残差图的横作为标准残差图的横坐标，纵坐标不变，此时标准残差图往往表现出如图的形状。坐标，纵坐标不变，此时标准残差图往往表现出如图的形状。如下左图表示误差正相关，而右图则表示误差具有负相关。如下左图表示误差正相关，而右图则表示误差具有负相关。第51页，共84页，编辑于2022年，星期一2.2.7 回归分析预测回归分析预测 n一元线性回归模型的主要应用就是根据所建立的估计的一元线性

46、回归模型的主要应用就是根据所建立的估计的回归方程进行预测或控制。所谓预测就是指通过自变量回归方程进行预测或控制。所谓预测就是指通过自变量X来预测因变量来预测因变量Y的取值；的取值；n预测主要针对总体均值和个别值进行预测。预测方法包预测主要针对总体均值和个别值进行预测。预测方法包括点预测和区间预测，分别称为括点预测和区间预测，分别称为点估计和区间估计。点估计和区间估计。第52页，共84页，编辑于2022年，星期一2.2.7 回归分析预测回归分析预测n2.2.7.1 点估计点估计n 概念：利用估计的回归方程，对于概念：利用估计的回归方程，对于X的一个特定值的一个特定值 ，求，求出出Y的一个估计值就

47、是点估计。的一个估计值就是点估计。n 点估计分两种：点估计分两种：一是总体均值的点估计一是总体均值的点估计；二是；二是个别值的个别值的点估计点估计。利用估计的回归方程，对于。利用估计的回归方程，对于X的一个特定值的一个特定值 ，求，求出出 的值就是的值就是总体均值的点估计总体均值的点估计；如果对于；如果对于X的一个特的一个特定值定值 ，求出，求出Y的一个个别值的一个个别值 的估计值，则为的估计值，则为个别值的个别值的点估计点估计。第53页，共84页，编辑于2022年，星期一n2.2.7.2 区间估计区间估计nYS*t0.05/2(n-2)第54页，共84页，编辑于2022年，星期一2.3 多元

48、多元线性回性回归分析分析n2.3.1 二元线性回归模型n2.3.3 多元线性回归分析n2.3.8 可以线性化的曲线回归第55页，共84页，编辑于2022年，星期一2.3.1 二元线性回归模型二元线性回归模型n（1）二元线性回归模型的假定）二元线性回归模型的假定n二元线性回归模型中增加了一个解释变量根据二二元线性回归模型中增加了一个解释变量根据二元回归线性回归模型的假定，有：元回归线性回归模型的假定，有：称为二元线性回归方程。称为二元线性回归方程。第56页，共84页，编辑于2022年，星期一2.3.3 多元线性回归模型多元线性回归模型n多元线性回归模型多元线性回归模型n 设因变量为设因变量为Y，

49、p个自变量分别为个自变量分别为 ，描述因变，描述因变量量Y如何依赖于自变量如何依赖于自变量 和误差项和误差项 的方程称为多的方程称为多元回归模型。其一般形式写为：元回归模型。其一般形式写为：上式称为多元线性回归模型，其中，上式称为多元线性回归模型，其中，为模型的参数；为模型的参数；称为误差项。称为误差项。第57页，共84页，编辑于2022年，星期一2.3.8 可以线性化的曲线回归可以线性化的曲线回归n（1）双曲线：）双曲线：令令 则则n（2）幂函数：）幂函数：令令 则则n（3）指数函数：）指数函数：令令 则则n（4）指数函数：）指数函数：令令 则则n（5）对数曲线：）对数曲线：令令 则则n（6

50、）S型曲线型曲线 令令 则则第58页，共84页，编辑于2022年，星期一n回归分析回归分析在整个分析过程中需要处理大量数据，运算复杂，在整个分析过程中需要处理大量数据，运算复杂，工作量大，容易出错，借助工作量大，容易出错，借助EXECL数据处理软件进行回数据处理软件进行回归分析，可解决这些问题，从而提高工作效率，保证工归分析，可解决这些问题，从而提高工作效率，保证工作质量。作质量。n案例：案例：n表表1为我国为我国19912001年城镇居民收入与消费支出情况，年城镇居民收入与消费支出情况，根据资料分析城镇居民人均可支配收入与消费支出之间的根据资料分析城镇居民人均可支配收入与消费支出之间的关系，